Первый в мире закон, посвященный регулированию ИИ. Вот чего ожидать от Закона ЕС об искусственном интеллекте

В наши дни слово «риск» часто встречается в том же предложении, что и «искусственный интеллект». Хотя обнадеживает то, что мировые лидеры рассматривают потенциальные проблемы ИИ, а также его промышленные и стратегические преимущества, мы должны помнить, что не все риски одинаковы.

14 июня Европейский парламент проголосовал за утверждение своего собственного проекта Закона об ИИ, законопроекта, разрабатываемого два года, с целью формирования глобальных стандартов в регулировании ИИ.

После заключительного этапа переговоров по согласованию различных проектов, подготовленных Европейским парламентом, Комиссией и Советом, закон должен быть одобрен до конца года. Он станет первым в мире законом, посвященным регулированию ИИ почти во всех секторах общества, хотя оборона будет исключением.

Урсула фон дер Ляйен — один из авторов Закона об искусственном интеллекте. Изображение: Европейский парламент

Из всех возможных подходов к регулированию ИИ стоит отметить, что это законодательство полностью основано на понятии риска. Регулируется не сам ИИ, а то, как он используется в определенных областях общества, каждая из которых несет в себе различные потенциальные проблемы. Четыре категории риска, на которые распространяются различные юридические обязательства: неприемлемый, высокий, ограниченный и минимальный.

Системы, которые считаются представляющими угрозу основным правам или ценностям ЕС, будут классифицироваться как имеющие «неприемлемый риск» и запрещены. Примером такого риска могут быть системы искусственного интеллекта, используемые для « прогностического контроля ». Это использование ИИ для оценки рисков людей на основе личной информации, чтобы предсказать, могут ли они совершить преступления.

Более спорным случаем является использование технологии распознавания лиц в прямом эфире уличных камер. Это также было добавлено в список неприемлемых рисков и будет разрешено только после совершения преступления и с санкции суда.

Те системы, которые классифицируются как «высокорисковые», будут подлежать раскрытию информации и, как ожидается, будут зарегистрированы в специальной базе данных. Они также будут подлежать различным требованиям мониторинга или аудита.

Типы приложений, которые должны быть классифицированы как приложения с высоким уровнем риска, включают ИИ, который может контролировать доступ к услугам в сфере образования, трудоустройства, финансирования, здравоохранения и других критических областях. Использование ИИ в таких областях не считается нежелательным, но надзор необходим из-за того, что он может негативно повлиять на безопасность или основные права человека.

Появление ChatGPT сделало ИИ мейнстримом. Изображение: Рольф ван Рут

Идея состоит в том, что мы должны быть уверены, что любое программное обеспечение, принимающее решения о нашей ипотеке, будет тщательно проверено на соответствие европейским законам, чтобы гарантировать, что нас не дискриминируют на основании защищенных характеристик, таких как пол или этническое происхождение.

К системам искусственного интеллекта с «ограниченным риском» будут предъявляться минимальные требования прозрачности. Точно так же операторы систем генеративного ИИ — например, ботов, создающих текст или изображения — должны будут раскрывать, что пользователи взаимодействуют с машиной.

Если «риск» — это «ожидаемый вред», который может исходить от чего-либо, то было бы правильно сосредоточиться на возможных сценариях, которые являются одновременно вредными и вероятными, потому что они несут наибольший риск. Очень маловероятные события, такие как столкновение с астероидом, не должны иметь приоритет над более вероятными, такими как последствия загрязнения.

В этом смысле проект законодательства, только что одобренный парламентом ЕС, не такой яркий, но более содержательный, чем некоторые из недавних предупреждений об ИИ. Он пытается провести тонкую грань между защитой прав и ценностей, не препятствуя инновациям, и уделяя особое внимание как опасностям, так и средствам защиты. Хотя он далек от совершенства, он, по крайней мере, предусматривает конкретные действия.

Следующим этапом в путешествии этого законодательства станут трилоги — трехсторонние диалоги, в которых отдельные проекты парламента, комиссии и совета будут объединены в окончательный текст. На этом этапе ожидаются компромиссы. Получившийся в результате закон вступит в силу, вероятно, в конце 2023 года, до начала предвыборной кампании на следующих европейских выборах. Любой бизнес, работающий в ЕС, должен будет его соблюдать.

Ясно, однако, то, что каждая технология сопряжена с риском, и вместо того, чтобы ждать, пока произойдет что-то негативное, академические и директивные учреждения пытаются заранее подумать о последствиях исследований. По сравнению с тем, как мы внедряли предыдущие технологии, такие как ископаемое топливо, это действительно представляет собой определенную степень прогресса.