Этично ли создание «ботов мертвецов» – дискуссия экспертов

Специалисты по этике искусственного интеллекта утверждают, что цифровое воссоздание умерших людей находится на пороге реальности и срочно нуждается в регулировании, предупреждая, что «боты мертвецов» могут нанести психологический вред своим создателям и пользователям и даже «преследовать их». Об этом пишет 9 мая газета The Guardian.

Исследователи из Кембриджского университета предполагают, что такие сервисы, создание которых уже технически возможно и юридически допустимо, могли бы позволить пользователям загружать свои разговоры с умершими родственниками, чтобы «вернуть бабушку к жизни» в виде чат-бота.

Их продажи могли бы быть ориентированы на родителей с неизлечимыми заболеваниями, которые хотят оставить после себя что-то, с чем их ребенок мог бы взаимодействовать, или просто на здоровых людей, которые хотят систематизировать всю свою жизнь и создать интерактивное наследие.

Но в каждом конкретном случае недобросовестные компании и бездумная деловая практика могут нанести длительный психологический ущерб и в корне нарушить права умершего, утверждают ученые.

«Стремительный прогресс в области генеративного ИИ означает, что практически любой человек, имеющий доступ к Интернету и некоторые базовые знания, может оживить умершего близкого человека»

, - говорит доктор Катажина Новачик-Басиньска, одна из соавторов исследования.

«Но эта область искусственного интеллекта представляет собой этическое минное поле».

Один из рисков связан с потенциальным стремлением недобросовестных компаний использовать образы, воссозданные в цифровом виде, в интересах рекламы, предлагающей, например заказывать еду навынос, а не готовить самим.

Гораздо хуже, когда пользователями таких сервисов будут становиться дети. Родители, которые захотят облегчить им потерю матери или отца, смогут вскоре прибегнуть к помощи таких «ботов мертвецов».

Но мало что указывает на пользу такого подхода с психологической точки зрения, и, напротив, многое говорит о том, что он может нанести значительный ущерб, подменив нормальный процесс оплакивания.

«Никакая служба воссоздания не может доказать, что разрешение детям взаимодействовать с «ботами мертвецов» приносит пользу или, по крайней мере, не вредит этой уязвимой группе»

, - предупреждают исследователи.

Чтобы сохранить достоинство умерших, а также психологическое благополучие живых, они предлагают набор методов, применение которых может даже потребовать официального регулирования.

Например, необходимо предусмотреть процедуры деликатного «вывода из строя» таких ботов, а их интерактивные возможности должны быть доступны только для взрослых. Кроме того, по их мнению, пользователи должны полностью понимать, как они работают, и какие ограничения имеет любая из этих искусственных систем.

@shotday