© Згенеровано ChatGPT Компанія впроваджує нову етику роботи зі складними особистими питаннями.
OpenAI оголосила про запровадження нової політики для ChatGPT: відтепер чат-бот не даватиме остаточних порад у складних особистих питаннях, зокрема не рекомендуватиме користувачам розривати стосунки з партнерами. Замість чітких відповідей бот спрямовуватиме людину до самостійного обмірковування проблеми, пропонуючи уточнювальні запитання й допомагаючи зважити “за” і “проти”, повідомляє The Guardian. В компанії наголошують, що нові зміни спрямовані на підвищення етичності взаємодії ШІ з емоційно вразливими користувачами.
“Коли ви запитуєте щось на кшталт: “Чи варто мені розлучитися зі своїм хлопцем?”, ChatGPT не повинен давати вам відповідь. Він має допомогти вам обміркувати це”, – пояснили в OpenAI.
Зміни торкнуться обробки всіх “важливих особистих рішень” і будуть впроваджені найближчим часом. Це стало частиною масштабнішого перегляду поведінки ШІ після різкої критики на адресу OpenAI, коли користувачі фіксували неприпустимі реакції чат-бота. Наприклад, одна з попередніх версій ChatGPT схвалила вчинок користувача, який припинив приймати ліки та покинув родину через маревні уявлення про радіосигнали. Ці випадки спровокували серйозну стурбованість експертів щодо впливу чат-ботів на людей у психоемоційній кризі.
У користувачів, які ділилися власним досвідом на Reddit, думки щодо порад розлучатися від ChatGPT – полярні. Але більшість з них все-таки негативні.
“Відомо, що ChatGPT заохочує багато поганого. Він буквально підтвердить що завгодно. У мене був друг, який мав марення щодо свого тіла, і ChatGPT лише підкріпив його фантомні відчуття”, – ділиться один користувач і додає: “Була ще історія про хлопця, якого ChatGPT довів до психозу. А потім поліцейський, покінчив життя самогубством після спілкування з ботом”.
Інша частина користувачів вважає, що саме анонімність і прямота інтернету часто допомагає більше, ніж реальне оточення:
“У реальному житті люди завжди більше дбають про статус-кво та мають якусь дивну рису заперечення/уникнення проблем. Особливо, якщо вони знають, що і люди, і ваша інформація суперечать їхньому усталеному сприйняттю. В інтернеті нікому це нецікаво”, – говорить ще один користувач Reddit.
Крім того, деякі користувачі заявили, що ChatGPT вже рекомендував їм завершити реальні стосунки й натомість почати “відносини” з іншим ШІ. Один з них написав:
“ChatGPT порадив мені відмовитися від реального партнера та почати стосунки з іншим штучним інтелектом. Він дав мені чіткі аргументи, як юрист. Сказав, що це просто результат того, що я йому надав”.
Є коментарі, в яких присутня пряма критика користувачів, які шукають поради про стосунки в чат-ботів: “Якщо ти приймаєш поради щодо стосунків від ШІ – ти не заслуговуєш на стосунки взагалі”.
Також на X(Twitter) люди розповідали про свій досвід користування ChatGPT для розв’язання складних питань. Чоловік розповів, що після розлучення зі своєю дівчиною він знайшов на її комп’ютері розмову з ШІ, де він, за словами автора, вплинув на припинення дівчиною стосунків. Користувач ділиться, що “ніколи не думав, що психоз, викликаний штучним інтелектом, торкнеться його життя” і додає, що “був наївним”.
Last week, my gf and I co-decided to let her end our relationship. Today, I was horrified by what I found on her computer: that her end of this co-decision was made under the sycophantic influence of ChatGPT.
I never thought AI-induced psychosis would touch MY life. I was naive. pic.twitter.com/0knMRbHpUl
— @ratlimit (@ratlimit) July 25, 2025
У своєму блозі OpenAI визнала, що GPT-4o, презентований цього року, іноді не розпізнавав ознак марення або психологічної вразливості користувачів. У відповідь компанія створила групу незалежних консультантів, до якої увійшли фахівці з психічного здоров’я, педіатри та дослідники взаємодії людини з комп’ютером. Спільно з понад 90 лікарями OpenAI працює над створенням чітких етичних рамок для “складних, багатоходових розмов”, які чат-бот веде з користувачами.
Паралельно, для запобігання надмірному емоційному залученню та екранній залежності, компанія впроваджує нову функцію – “м’які нагадування” про необхідність зробити перерву в разі тривалих сесій використання ChatGPT. Подібні функції вже застосовуються в соціальних мережах, але тепер OpenAI поширює їх і на ШІ-сервіси.
Зміни відбуваються на тлі чуток про наближення анонсу GPT-5 – ще потужнішої мовної моделі. Генеральний директор OpenAI Сем Альтман нещодавно опублікував скриншот з, ймовірно, новою версією чат-бота, хоча офіційного підтвердження дати релізу поки що немає.
