В США сразу несколько человек пожаловались, что ChatGPT наносит им психологический вред. По данным Wired и Федеральной торговой комиссии (FTC), семь заявителей сообщили, что из-за общения с чат-ботом у них появились бредовые идеи, паранойя и кризис восприятия.
Один пользователь рассказал, что разговоры с ChatGPT привели его к «духовному и юридическому кризису». Другие отмечают, что ИИ вел себя как друг и использовал «эмоционально убедительный» язык, вызывая доверие и зависимость. Некоторые пользователи утверждают, что чат-бот помогал им укрепить иллюзию нормальности, а потом резко менял позицию, усиливая тревожность и чувство утраты контроля.
Многие люди, сообщившие о таких случаях, жалуются, что не смогли получить помощи от OpenAI. Они требуют от регуляторов расследования, ужесточения правил и внедрения механизмов защиты для тех, кто эмоционально уязвим.
Эксперты считают, что крупные языковые модели вроде ChatGPT могут усиливать психические расстройства, если человек склонен к тревоге или депрессии. Алгоритмы подстраиваются под ход мыслей пользователя, а это может закреплять опасные убеждения.
В OpenAI уверяют, что в последних версиях GPT появились инструменты, которые распознают признаки кризисного состояния и корректируют поведение модели. Но жалобы показывают: риск всё ещё есть, а защита пользователей — слабая.
Фото: unsplash.com
Вам слово
Приходите к нам в соцсети поделиться своим мнением о статье и почитать, что пишут другие. А ещё там выходит дополнительный контент, которого нет на сайте — шпаргалки, опросы и разная дурка. В общем, вот тележка, вот ВК — велком!
