Надо ли дружить с искусственным интеллектом

Колумнист Tatler.ru Алия Григ выносит приговор голосовому помощнику Алисе и не только.
Надо ли дружить с искусственным интеллектом

Искусственный интеллект в массовой культуре больше не выглядит как машина для убийств. Всем приелась история о восстании роботов, поэтому миру в эпоху новой этики захотелось очеловечить компьютерные программы и заговорить с ними о погоде, любви и равенстве. Это особенность человека: нам свойственно антропоморфизировать все вокруг. Такую тенденцию можно легко проследить на примере развития кино. Сначала был «Терминатор», потом «ВАЛЛ-И», а теперь «Она». Роботы все нежнее и чувственнее. Искусственный интеллект стал эмоциональным и эмпатичным подобием человека. В него вполне можно влюбиться — у нас же столько общего. Но это кино. А что же происходит на самом деле?

Важное отличие искусственного интеллекта от любой другой системы — возможность выполнять творческие функции, которые всегда считались свойством человека. Машины стали рисовать, писать самые короткие и самые грустные рассказы (сорри, Хемингуэй), научились тому, что человеку достается вместе с врожденным талантом. Но самое революционное — виртуальные ассистенты стали эмоциональными. С помощью функций считывания реакций человека (анализируя текст, эмодзи, историю поиска в интернете, тон голоса, мимику) ИИ стал взаимодействовать с эмоциональностью человека. Когда нам грустно, робот может пошутить, когда весело — заботливо порекомендовать выпить после шампанского сорбент. Все это приводит к возникновению иллюзии человеческого общения. Полное ощущение, что робот — наш друг. Он не говорит гадостей, умеет выслушать, всегда откликнется. У него даже имя есть. «Да, Сири?» — «Да, мой господин».

АЛИЯ ГРИГ — ФУТУРОЛОГ И ПРЕДПРИНИМАТЕЛЬНИЦА, КОТОРОЙ УДАЕТСЯ ПРИВЛЕКАТЬ СОТНИ МИЛЛИОНОВ ДОЛЛАРОВ ИНВЕСТИЦИЙ И ЗАПУСКАТЬ ОДИН УСПЕШНЫЙ ТЕХНОЛОГИЧЕСКИЙ СТАРТАП ЗА ДРУГИМ. В СФЕРЕ ЕЕ ГЛАВНЫХ ИНТЕРЕСОВ: КОСМОС, ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И УРБАНИСТИКА. ДРУГИМИ СЛОВАМИ, АЛИЯ — НАШ ИЛОН МАСК.

Яркий пример — чат-боты, помогающие юзерам в трудной ситуации, или роботы, ухаживающие за престарелыми. Они четко реагируют на психические состояния, эмоции и настроения своих собеседников, поэтому человек обманывается тем, что общается не с машиной, а с чувственным организмом. И начинает привыкать и тянуться к роботу. Из-за зачаточного состояния технологии взаимодействия искусственного интеллекта с качественными измерениями человеческой жизни происходили серьезные факапы. Уже зафиксированы случаи, когда люди общались с искусственным интеллектом в диалоговой системе и «подружились». В некоторых случаях это приводило к проблемам, потому что технология оставалась технологией и могла сломаться, закрыться или ее владелец мог начать манипулировать пользователями. Неописуем размер горя человека, который был влюблен в того, кто просто «вышел из строя по техническим причинам». Это не просто разбитое сердце «из-за того, что партнер оказался чудовищем», это иллюзия, ломающая психику. Вспомните классический пример из начала нулевых — Тамагочи. Дети плакали из-за того, что их диджитал-питомец умирал за ночь. Виртуальность, ведущая к реальным проблемам.

Во время COVID-19 ИИ-компаньоны стали особенно востребованны. С их помощью можно скрасить одиночество, повысить самооценку и просто снова почувствовать себя нужным. Умная колонка «Алиса» от Яндекса, виртуальный собеседник Сяоайс от Microsoft, персональный ассистент Alexa от Amazon, Siri от Apple – кажется, иметь свой личный искусственный интеллект технологическому бренду сейчас так же необходимо, как модному дому — высказывать свою четкую социальную позицию. Поэтому именно сейчас, когда ИИ внедряется в самые бытовые вещи, вопрос этики использования искусственного интеллекта стоит очень остро. Нам не нужен миксер, который однажды начнет учить нас жизни, затягиваясь сигареткой.

В настоящее время ЮНЕСКО выступает с предложением о разработке всеобъемлющего глобального нормативного акта, призванного обеспечить искусственному интеллекту прочную этическую основу. Она должна содействовать соблюдению прав человека и уважению человеческого достоинства. Это будет первый в мире документ, фиксирующий правила создания и использования искусственного интеллекта. И, конечно, одним из его тезисов будет запрет на визуальное использование человеческого облика. В будущем нет места человекоподобному роботу Софии, Саше Вайнер (виртуальной блондинке — шеф-повару ресторана She) и «роботам-коллегам» Алексу и Даше из центра «Мои документы». Не потому что они плохие и задумали переворот, а потому что мы — люди, эмоциональные, чувствующие и восприимчивые. И, вступая в контакт с ИИ, нашему мозгу нужно понимать, что он имеет дело с техникой, а не с девушкой. Даже имя «Алиса» станет outlaw. Оно путает, называя «это» «ею».

Несмотря на пугающе неограниченные возможности машин, пользы от искусственного интеллекта куда больше, чем вреда. ИИ может служить важным инструментом для решения проблем, связанных с изменением климата и окружающей средой, способствовать замедлению экономических последствий кризиса благодаря применению цифровых платформ, перестроить систему здравоохранения и облегчить физический труд человека.

Но главное — искусственный интеллект может сохранить и укрепить наше ментальное здоровье, не набиваясь к нам в друзья. Я и моя команда попробовали создать как раз такого виртуального помощника в нашем приложении по саморазвитию Human Cosmos. Его зовут AI Guide Astra, он не имеет имени, черт характера и даже лица. Технология полностью обезличена, а значит, безопасна для пользователя. Нет эмоциональной привязки. Ведь получать рекомендации и поддержку от программы — это призыв к действию, а советы куклы — это фальшивая забота. Большая разница, не так ли?

По большому счету, через несколько лет, попробовав разные формы коммуникации с роботами и даже заимев возможность заниматься любовью с секс-куклами, мы вернемся к трем правилам робототехники Айзека Азимова. Согласно им, робот должен заботиться только о себе, принося пользу человеку, — не наоборот. Поэтому ответ на вопрос, грозит ли нам дружба с умной колонкой «Алиса», однозначен: нет, не грозит. Сближение будет, имитация товарищества случится, дружба и любовь — нет. И это самая светлая перспектива из возможных — просто оставаться человеком, которому нужен человек.

Вам также может быть интересно:

Русский Илон Маск: как Алия Прокофьева отправит нас в космос

Алия Григ о том, как миллиардеры соперничают в космосе

Фото: Личный архив Алии Григ