В России искусственный интеллект может вскоре столкнуться с новыми законодательными ограничениями. Соответствующий законопроект в настоящее время разрабатывают в Минцифре. Планируется, что документ запретит различные манипуляции пользователями – от навязывания покупок до опасных воздействий на психику, передают «Известия».
Что предлагает инициатива Минцифры
Согласно документу, разработчики систем ИИ будут обязаны открыто предупреждать пользователей о недопустимости использования нейросетей для манипуляций и эксплуатации человеческих слабостей. Указывается такой термин, как «эксплуатация уязвимостей». Он охватывает возрастные, социальные, экономические и психологические особенности человека.
Однако в текущей версии законопроекта отсутствуют конкретные примеры недопустимых практик, механизмы контроля и наказания за нарушения. В настоящее время законодательный документ находится на стадии рассмотрения в профильных ведомствах.
Закон может коснуться онлайн-сервисов
Современные онлайн-платформы активно применяют алгоритмы ИИ для анализа поведения клиентов, сбора данных об их предпочтениях и привычках. Все это делается, чтобы потом с помощью рекламы навязывать покупку тех или иных вещей, о которых потребитель даже не думал.
Так что грань между маркетинговыми уловками и манипуляцией сейчас очень тонкая. Иногда нейросети заходят слишком далеко.
Например, агрегаторы такси, по сведениям федерального СМИ, поднимают тарифы для пассажиров с низким уровнем заряда телефона.
Эксперты называют наиболее тревожным сценарием – когда ИИ имитирует близкого человека, провоцируя негативные эмоции вплоть до мыслей о суициде. Эксперты предупреждают: полностью устранить такие риски технически трудно, поскольку невозможно учесть все возможные сценарии поведения нейросетей.
Международный опыт регулирования
Вопрос ответственности разработчиков искусственного интеллекта поднимается не только в России. Западные страны тоже сталкиваются с подобными вызовами.
В США после трагических случаев с самоубийствами, вызванными виртуальными персонажами, законодатели обязали создателей нейросетей внедрять родительский контроль и системы безопасности.
В Европе разрабатываются стандарты этичности ИИ, регулирующие допустимый уровень вмешательства в приватную жизнь пользователей.
Пока неизвестно, будет ли эффективен российский закон. Но специалисты по нейросетям сходятся во мнении, что регулирование неизбежно и необходимо для защиты общества от бесконтрольного вторжения в сознание.
