Facebook отключил ботов, которые придумали собственный язык

Лента новостей кипит сообщениями о том, что Facebook отключил ботов, которые вышли из под контроля и придумали собственный язык для общения. Мы же постарались обойти разразившуюся панику и угрозы “восстания машин” и “апокалипсиса” стороной и понять, что же в итоге произошло и чем это может грозить простым смертным.

Для начала разберёмся, что разговорные боты – это программа, оснащённая механизмом интуитивного “обучения” разговору и переписке с живыми людьми, то есть, другими словами, неким искусственным интеллектом для поддержания связной беседы. 

Несколькими неделями ранее компания FastCo Design разработала по запросу Facebook “генеративную сеть” для дальнейшего её внедрения в программы общения. Два бота “Боб” и “Элис”, вокруг которых и поднялась шумиха были протестированы в июне и расширенный отчёт об их работе можно найти в блоге Facebook об исследованиях искусственного интеллекта (Facebook Artificial Intelligence Research). На тот момент перед ними ставились задачи генерации общения с пользователями и другими ботами для решения общих, простых и часто повторяющихся вопросов. 

И в их общении не было ничего сверхъестественного, кроме разве что “живого” обсуждения того, как поделить между собой массив заданных предметов: мячи, книги и шляпу, чтобы в итоге все остались довольны. 

При тестировании Боба и Элис с реальными людьми, последние порой даже не понимали, что общение происходит с роботом, настолько успешно они перенимали стилистику общения и наращивали словарный запас.

Однако, в общении между собой они решили отойти от грамматики, заданного английского языка и построения фраз и выработали собственный, непонятный человеку шифр для общения.

Отрывок выглядит следующим образом: 

Элис: шары имею ноль мне мне мне мне мне мне мне мне

Боб: ты я все остальное

Элис: шары имею шар мне мне мне мне мне мне мне

Боб: я…

Элис: шары имею ноль мне мне мне мне мне мне мне мне

Боб: ты я я я я я все остальное

Элис: шары имею ноль мне мне мне мне мне мне мне мне

На первый взгляд – эта переписка кажется абсолютной бессмыслицей, но это только для человеческого мозга, склонного усложнять общение всеми красками и богатством предоставленного языка. Программа же выбрала наиболее быстрый алгоритм, приводящий к тем же результатам быстрого и прагматичного распределения вещей, заменяя количественные показатели и цифры простым повторением.

Никакой “хакерской атаки” со стороны машин или посягательств на человеческие жизни со стороны “великого и ужасного” искусственного интеллекта не происходило.

Разработчики отключили программу, которая отошла от заданного алгоритма взаимодействия. Но вот то, что она это сделала сама, без вмешательства со стороны человека, лишний раз доказывает, что эра повсеместной механизации и обезличивания приближается семимильными шагами и пусть пока паниковать не из-за чего, держать в уме изречение Илона Маска (Elon Musk) о том, что “искусственный интеллект может стать главной угрозой человечеству” всё же стоит, равно как и поднимать вопрос о системах глобального регулирования этой сферы исследований.

Текст: Татьяна Савельева