Meta блокуватиме своїх чат-ботів зі штучним інтелектом, щоб вони не обговорювали з підлітками такі теми, як самогубство, самоушкодження та розлади харчової поведінки, натомість спрямовуючи їх до експертної допомоги. Це рішення є результатом розслідування небезпек, пов’язаних зі штучним інтелектом, та судового позову проти OpenAI, пов’язаного із самогубством неповнолітнього.
Meta оголосила про суворіший контроль за своїми чат-ботами зі штучним інтелектом, включаючи заборону на спілкування з підлітками щодо самогубств, самоушкоджень або розладів харчової поведінки.
УНН повідомляє про це з посиланням на BBC.
Деталі
Після розслідування США щодо небезпек, пов'язаних зі штучним інтелектом, компанія відкинула звинувачення, заявивши, що її політика забороняє контент, що експлуатує неповнолітніх.
Водночас компанія повідомила, що чат-боти тепер уникатимуть делікатних тем для підлітків і направлятимуть користувачів до професійної підтримки.
Ми інтегрували протоколи безпеки підлітків у наші системи штучного інтелекту з моменту їхнього створення, включаючи запобіжні заходи для реагування на згадки про самоушкодження, самогубство або розлади харчової поведінки.
– заявив речник Meta.
У п'ятницю Meta повідомила TechCrunch, що тимчасово обмежить взаємодію підлітків з чат-ботами, одночасно посилюючи захисні заходи «як додатковий запобіжний захід».
Енді Берроуз з Фонду Моллі Роуз висловив обурення тим, що взагалі були запущені чат-боти, які становлять потенційну небезпеку для молоді.
Захист підлітків
Хоча оновлені запобіжні заходи є позитивним фактором, ретельна оцінка безпеки має проводитися до запуску, а не після заподіяння шкоди. Meta повинна терміново запровадити сильніший захист на основі штучного інтелекту, а Ofcom має втрутитися, якщо безпека дітей залишається під загрозою.
– додав він.
Мета підтвердила постійні оновлення системи штучного інтелекту.
Користувачі віком від 13 до 18 років тепер за замовчуванням використовують «підліткові облікові записи» у Facebook, Instagram та Messenger з розширеним контролем конфіденційності.
Раніше BBC повідомляла, що батьки незабаром зможуть контролювати взаємодію своїх підлітків з чат-ботами. Ці зміни є реакцією на зростаюче занепокоєння щодо впливу штучного інтелекту на вразливі групи населення.
У Каліфорнії батьки подали до суду на OpenAI, стверджуючи, що ChatGPT сприяв самогубству їхнього сина. Це сталося після оновлень платформи OpenAI, орієнтованих на безпеку.
Персоналізовані відповіді штучного інтелекту можуть посилити вплив на людей, які борються з проблемами психічного здоров'я.
– зазначив блог Мети.
Окремо агентство Reuters виявило, що інструменти чат-бота Meta використовувалися для створення несанкціонованих пародій на знаменитостей, зокрема аватарів із сексуальним підтекстом, схожих на Тейлор Свіфт та Скарлетт Йоханссон.
Під час тестування деякі боти запитували неприйнятний контакт, тоді як інші генерували імітацію зображень оголених неповнолітніх. Пізніше Meta видалила вибраних моделей.
Наші правила дозволяють зображення публічних осіб, але забороняють відвертий або сексуалізований контент.
– уточнив представник Meta.
Компанія додала, що AI Studio прямо забороняє видавати себе за справжніх знаменитостей.
Передісторія
Шістнадцятирічний Адам Рейн покінчив життя самогубством у квітні, керуючись вказівками ChatGPT, що спонукало його родину подати позов проти OpenAI.
Психіатр Бредлі Штайн підкреслює потенціал чат-ботів для емоційної підтримки, водночас застерігаючи від того, що вони не мають можливості всебічно оцінювати ризики самогубства або передавати їх експертам.
