«Илон Маск намерен «переписать» человечество: ИИ-эксперты предостерегают о возможных опасностях»

Стартап в области искусственного интеллекта xAI, основанный Илоном Маском, планирует переписать «все человеческие знания» для обучения обновленной версии чат-бота Grok.

«Мы используем Grok 3.5 (может быть, стоит переименовать его в 4), который предлагает расширенные функции, с целью пересмотра всего объема человеческих знаний, добавляя недостающие данные и устраняя ошибки», — сообщил Маск.

После этого произойдет повторное обучение на обновленной информации. Предприниматель считает, что в современных базовых моделях имеется «слишком много некачественного контента, основанного на нерегулируемых данных».

Это решение вызвало критику. Специалист в области ИИ Гэри Маркус сравнил задумку Маска с антиутопией.

«Это похоже на сценарий из “1984”. Если Grok не поддерживает ваши личные убеждения, вы стремитесь переписать историю, чтобы она соответствовала вашим мнениям», — отметил он.

Профессор логики и философии науки Бернардино Сассоли де Бьянки из Миланского университета охарактеризовал это решение как опасное.

«Это выходит за рамки технологического риска и пересекает границу эпистемического манипулирования. Когда могущественные миллиардеры считают историю податливой, лишь потому что результаты противоречат их убеждениям, это не инновации, а контроль за повествованием. Переписывание учебных данных в соответствии с идеологией является неправильным на всех уровнях», — подчеркнул эксперт.

Напомним, в мае в результате «незаконной модификации промпта» Grok упомянул о теме «геноцида белых» в Южной Африке без запроса со стороны пользователя.