OpenAI оголосила про нові обмеження для користувачів ChatGPT віком до 18 років, надаючи пріоритет безпеці підлітків над конфіденційністю. Зміни включають додатковий захист від ризикованих тем та можливість налаштування батьківського контролю, що стало актуальним після трагедії з Адамом Рейном.
OpenAI запроваджує нові обмеження для користувачів ChatGPT віком до 18 років. Генеральний директор компанії Сем Альтман вже заявив, що безпека підлітків має перевагу над конфіденційністю. Сервіс отримає додаткові механізми захисту від ризикованих тем, зокрема сексуальності та самоушкодження. Про це повідомляє TechCrunch, пише УНН .
Деталі
OpenAI оголосила, що внесе радикальні зміни до свого чату для користувачів віком до 18 років.
Ми ставимо безпеку на перше місце, ніж конфіденційність та свободу підлітків. Це нова та потужна технологія, і ми вважаємо, що неповнолітні потребують значного захисту.
– йдеться у дописі Сема Альтмана.
За його словами, нові правила мають запобігти небезпечним сценаріям у спілкуванні підлітків з чат-ботами.
Чат зазнає низки змін та технологічних удосконалень: ChatGPT більше не вестиме «кокетливі розмови» з неповнолітніми, а обговорення тем, пов’язаних із самогубством, супроводжуватиметься додатковими запобіжними заходами.
Якщо неповнолітній говорить про самогубство або подібні небезпечні теми, чат сповістить батьків або навіть місцеву поліцію.
Потреба у змінах стала особливо нагальною після трагедії Адама Рейна. Його батьки звинувачують ChatGPT у сприянні рішенню їхнього сина покінчити життя самогубством і подали позов проти OpenAI. Подібні претензії були висунуті проти іншого чат-бота, Character.AI.
Ще одним нововведенням стане функція «батьківського контролю». Тепер батьки зможуть встановлювати так звані «години блокування» для облікових записів своїх дітей, коли ChatGPT буде повністю недоступний.
Цікаво, що оголошення нових правил збіглося зі слуханням у Судовому комітеті Сенату США під назвою «Дослідження шкоди чат-ботів зі штучним інтелектом». Очікується, що батько Адама Рейна буде одним із ключових свідків на слуханні.
Однак, OpenAI визнає, що таке розділення користувачів чату буде серйозним викликом. Компанія пояснила, що «сервіс розробляє довгострокову систему для визначення віку користувача, але у спірних випадках ChatGPT працюватиме за більш обмежувальними правилами».
«Ми розуміємо, що ці принципи суперечать один одному, і не всі погодяться з тим, як ми вирішимо цей конфлікт», – йдеться у заяві.
Ми вам нагадаємо
Генеральний директор OpenAI раніше висловлював стурбованість щодо можливих самогубств за допомогою ChatGPT. Компанія розглядає можливість інформування влади про суїцидальні наміри користувачів, особливо молоді.
OpenAI оголосила про впровадження нових інструментів захисту в ChatGPT, які допоможуть захистити підлітків та користувачів, які переживають емоційні труднощі.
Раніше УНН писав, що Meta заборонить своїм чат-ботам зі штучним інтелектом обговорювати з підлітками теми самогубства, самоушкодження та розладів харчової поведінки, перенаправляючи їх до професійних ресурсів.
