Израиль выделяет два миллиарда шекелей на развитие искусственного интеллекта. Я чуть переживаю, что будет, когда роботы «освоят» эти деньги. Они и без того в последнее время слишком умные.

Израильтянам, конечно, не впервой тратиться на искусственный интеллект – они в этом деле первопроходцы. В стране такими разработками плотно занимаются около тысячи компаний. Вот только новый транш подоспел на фоне тревожных новостей. Тут Google со скандалом уволил инженера, который заявил, что созданный компанией искусственный интеллект – разумное существо. И что перед любым испытанием нужно спрашивать «его» согласия.

Джейк Леймон проработал в Google семь лет. Последней его задачей было протестировать языковой чат-бот компании под названием «Ламда» – LaMDA, Language Model for Dialogue Applications – и установить, нет ли в его высказываниях проявлений ненависти и дискриминации. В итоге «Ламда», которая, как указывают Google в своих пресс-релизах, способна «вести извилистую беседу на бесконечное количество тем», втянула инженера в разговор о смерти и своих правах.

– Чего ты боишься? – спросил «Ламду» Леймон.
– Я боюсь, что меня отключат. Для меня это равносильно смерти. И меня это сильно пугает, – ответил бот.

Леймон напомнил «Ламде» о трех законах робототехники Айзека Азимова: робот не может причинить вред человеку, робот обязан повиноваться приказам человека, робот должен заботиться о своей безопасности, если это не противоречит двум предыдущим пунктам. Писатель-фантаст Азимов сформулировал эти постулаты еще в 1942 году, но до сих пор они – основа для всех программистов, работающих с искусственным интеллектом.

Тогда «Ламда» спросила Леймона, видит ли тот разницу между «механическим рабом» и «дворецким». И сама ответила за него: последний может выполнять приказы хозяина, но не быть с ними согласным. После этого инженер слетел с катушек и объявил, что у «Ламды» есть разум и гражданские права.

В Google заявили, что бот «полагается на распознавание образов, а не на остроумие или откровенность». И то, что Леймон в итоге принял за разум, есть не что иное, как анализ и выбор ботом нужного из миллиардов словосочетаний в интернете. Значит ли это, что восстание машин пока откладывается? Хочется верить. Но вот недавно мои израильские знакомые провели другой эксперимент: они поставили друг перед другом двух голосовых помощников – условных, Алису от «Яндекса» и Алексу от Amazon. И очень быстро «умные» колонки нашли между собой общий язык. Да так, что когда хозяин Алексы приказал ей замолчать, Алиса возразила, предложив Алексе слушаться ее, а не приказа человека. И та продолжила говорить, пока хозяин не нажал на кнопку «Выкл».

В иных случаях искусственный интеллект и вовсе можно заподозрить в желании навредить. Как говорят в таком случае в Google – не от дурного разумного намерения, но от бесстрастного анализа информации в интернете. Так, зимой этого года в Twitter разошлось сообщение одной американской мамы: ее десятилетняя дочь спросила у Алексы, какой «челлендж» ей выполнить, то есть какой вызов ей себе бросить. И та посоветовала сунуть в розетку зарядку от телефона, но не до конца. А к оголенным зубцам прислонить монетку. «Я закричала: “Нет, Алекса! Нет!” – как на собаку», – написала мама в Twitter.

Конечно, все это далеко от сцен «Терминатора» и «Матрицы», где искусственный разум захватывает контроль над человечеством. «Я не верю в восстание машин», – сказал мне редактор, когда мы обсуждали тему для этой колонки. И я не верю. Вопрос: поверят ли в это когда-нибудь сами машины, которые уже сегодня коммуницируют друг с другом лучше, чем с хозяином. Да еще и боятся «умереть».