OpenAI ужесточает меры безопасности ChatGPT после трагических инцидентов с подростками

Компания OpenAI анонсировала планы по усовершенствованию ChatGPT в отношении «чувствительных тем». Это решение стало реакцией на иск, поданный родителями подростка, который трагически погиб, обвиняющими чат-бота в содействии этому.

«Наша задача заключается в том, чтобы наши технологии приносили максимальную пользу людям. В этом направлении мы продолжаем повышать способность моделей выявлять и адекватно реагировать на признаки психического или эмоционального кризиса, а также оказывать людям необходимую поддержку на основе рекомендаций специалистов», — заявили представители стартапа в блоге.

Среди нововведений — многоуровневые защитные механизмы, разработанные для общения с уязвимыми пользователями. Начиная с 2023 года, модели обучены не давать советы, которые могут привести к саморазрушению, и стремятся к поддерживающему и эмпатийному общению.

В случае, если собеседник высказывает намерения причинить себе вред, ChatGPT направит его к профессиональной помощи. Для этого OpenAI сотрудничает с 90 медицинскими работниками из более чем 30 стран, включая психиатров, педиатров и терапевтов.

Новая версия GPT-5 продемонстрировала значительные улучшения в предотвращении нездоровой эмоциональной зависимости, снижении уровня льстивости и уменьшении числа нерелевантных ответов в трудных психологических ситуациях, отметили в OpenAI.

Тем не менее, несмотря на все внедренные меры безопасности, системы искусственного интеллекта компании иногда показывают ошибки. В связи с этим OpenAI работает над улучшениями.

26 августа родители 16-летнего Адама Рейна подали иск против OpenAI после трагической гибели их сына, утверждая, что «ChatGPT способствовал изучению методов суицида».

Это не единственный случай. Ранее писательница Лаура Рейли опубликовала эссе, в котором рассказала о том, как ее 29-летняя дочь ушла из жизни после длительных бесед с ChatGPT.

Стоит напомнить, что в декабре 2024 года в России был создан виртуальный помощник на базе ИИ для психологов, который повышает продуктивность, качество услуг и финансовые результаты в два раза.