«OpenAI вводит возрастные ограничения в ChatGPT: безопасность подростков превыше всего»

Компания OpenAI объявила о введении новых правил для пользователей ChatGPT, возраст которых не достигает 18 лет. Об этом упоминается в блоге на официальном сайте OpenAI, написанном генеральным директором Сэмом Альтманом. Он подчеркнул, что эти инициативы имеют целью найти баланс между безопасностью, свободой и конфиденциальностью, однако в случае подростков акцент смещается именно на обеспечение безопасности.

Альтман отметил, что OpenAI намерена внедрить систему поведенческого анализа, способную определять возраст пользователей. Если система не сможет точно установить возраст, она автоматически будет считать данного пользователя подростком, что повлечет за собой ограничения в доступе к определённым функциям. Пользователям в этой категории будут недоступны темы, касающиеся создания художественных текстов с элементами самоповреждения или обсуждения самоубийств. Даже в рамках творческих запросов система будет отклонять такие сюжеты.

Если подросток в разговоре с ChatGPT выразит суицидальные мысли, система уведомит родителей, а в случае угрозы жизни может обратиться в соответствующие органы. Для пользователей старше 18 лет функционал ChatGPT останется более широким: они смогут обсуждать чувствительные вопросы и создавать творческие сценарии, соблюдая общие правила безопасности.

Эти ограничения касаются как новых учетных записей, так и уже существующих, однако в заявлении не уточняется, каким образом OpenAI планирует обеспечивать соблюдение правил в различных странах с учётом различий в законодательстве и культурных контекстах. Кроме того, не разглашаются детали алгоритма, используемого для определения возраста и оценки его точности.

Согласно словам Альтмана, компания стремится сделать ChatGPT безопасным и полезным для всех возрастных категорий, но в отношении подростков OpenAI осознанно вводит ограничения ради их защиты. «В некоторых случаях или странах мы также можем запрашивать удостоверение личности; мы понимаем, что это может затруднить конфиденциальность для взрослых, но считаем это разумным компромиссом», — добавил Альтман.