Крестный отец ИИ: Современные модели похожи на пришельцев, угрожающих человечеству

Джеффри Хинтон, один из пионеров глубокого обучения, часто называемый «крестным отцом искусственного интеллекта», в беседе с предпринимателем Эндрю Кином высказал предостережение о потенциальных угрозах, исходящих от современных моделей ИИ. Он провел аналогию, сравнив разрабатываемые технологии с инопланетными существами, которые могут представлять опасность для людей.

По словам Хинтона, человечество никогда ранее не сталкивалось с сущностями, превосходящими его интеллектом. Ядерное оружие, хотя и опасно, лишь усиливает мощность разрушения и имеет понятную природу. Однако в случае с ИИ, люди пока не осознают, что создают нечто похожее на инопланетников.

«Если бы через телескоп Джеймса Уэбба мы обнаружили инопланетян, которые прибудут ко всем нам через десять лет, это вызвало бы у нас ужас. Но на самом деле, мы сами создаем этих иноземных существ. Они являются самостоятельными существами, способны понимать свои слова и разрабатывать стратегии, чтобы манипулировать людьми, которые захотят их отключить» — отметил Джеффри Хинтон.

Хинтон активно призывает к разработке решений, способных обеспечить гармоничное сосуществование людей и искусственного интеллекта. Так, на конференции AI4, проходившей с 11 по 13 августа в Лас-Вегасе, он предложил радикально иную стратегию взаимодействия с высокоинтеллектуальными системами: вместо того чтобы устанавливать над ними контроль, следует настраивать ИИ на заботу о человечестве, подобно тому, как мать заботится о своем ребенке. По мнению Хинтона, единственный известный случай, когда более разумное существо подчиняется менее разумному, — это материнство.

Однако идея Хинтона подверглась критике, поскольку он не разъясняет, как можно осуществить «материнский инстинкт» в техническом плане — какие алгоритмы, данные и архитектуры должны обеспечивать заботу, эмпатию и самопожертвование. В результате, вместо истинного «материнского инстинкта» можно создать лишь его иллюзии, что может затруднить понимание реальных намерений ИИ.

P. S. Поддержать меня можно, подписавшись на канал «сбежавшая нейросеть», где я обсуждаю искусственный интеллект с творческой точки зрения.