OpenAI вводит детскую версию ChatGPT с родительским контролем для безопасного общения подростков

OpenAI анонсировала специальную версию ChatGPT с функцией родительского контроля для пользователей младше 18 лет, чтобы повысить уровень безопасности.

Если компания установит, что пользователь является несовершеннолетним, его автоматически перенаправят на упрощённую версию чат-бота, адаптированную для молодежной аудитории, в которой запрещены графические сексуальные материалы. В случае выявления серьезных кризисных ситуаций возможна связь с правоохранительными органами.

OpenAI трудится над технологией, позволяющей более точно определять возраст пользователей. В случае возникновения сомнений или недостаточной информации, ChatGPT по умолчанию будет запускать версию для детей и подростков.

«Это сложная задача, и даже самые современные алгоритмы иногда сталкиваются с трудностями в определении возраста. Если у нас есть сомнения или информация недостаточна, мы выберем более осторожный вариант и активируем подростковую версию ChatGPT по умолчанию. Вместе с тем взрослые смогут подтвердить свой возраст, чтобы получить доступ ко всем возможностям», — указано в официальном блоге компании.

Эти обновления стали известны после начала расследования со стороны Федеральной торговой комиссии США, касающегося ряда стартапов в области искусственного интеллекта. Регулятор стремится выяснить, как компании оценивают уровень безопасности и монетизации своих цифровых ассистентов, а также какие меры принимают для снижения негативного влияния на детей и подростков.

В августе OpenAI поделилась своими намерениями справиться с недостатками ChatGPT в контексте «чувствительных ситуаций», что стало следствием иска от семьи, которая обвинила чат-бот в трагедии, произошедшей с их ребенком.

В сентябре стало известно о планах стартапа внедрить родительский контроль и перенаправлять конфиденциальные чаты на обсуждаемые модели.

«Мы ставим безопасность выше приватности и свободы для подростков. Это свежая и сильная технология, и мы считаем, что несовершеннолетние заслуживают серьезной защиты. Эти решения непростые, но после консультаций с экспертами мы пришли к выводу, что так будет лучше, и хотим открыто обсудить наши намерения», — отметил генеральный директор OpenAI Сэм Альтман.

В конце сентября в приложении будет реализован родительский контроль, который позволит:

Напомним, что в июле OpenAI представила специальный учебный режим в ChatGPT для студентов, помогающий поэтапно решать задачи, а не просто получать готовые ответы.