ООН призывает ввести мораторий на использование систем искусственного интеллекта, “представляющих серьезную угрозу для прав человека”, до завершения исследовательской работы и упорядочения. Она опубликовала отчёт после беспокойства по поводу использования искусственного интеллекта странами и предприятиями без должной меры предосторожности. Уполномоченный по правам человека Мишель Бачелет заявила, что искусственный интеллект может быть “сторонником добра”, но подчеркнула, что его использование может все еще иметь крайне негативные, “даже катастрофические” последствия.
В докладе анализируются способы, которыми искусственный интеллект может затронуть права человека, включая частную жизнь, здоровье и образование, а также свободу передвижения, выражения своих убеждений и свободу встреч с людьми.
“Искусственный интеллект ныне охватывает почти все уголки нашей физической и психической жизни и даже эмоциональную сферу”, – пишет Бачелет. “Системы искусственного интеллекта используются для определения того, кто пользуется государственными услугами, определяют, кто имеет шанс быть принятым на работу, и, конечно же, они влияют на то, какую информацию люди видят и могут обмениваться ею в Интернете”.
В докладе Бачелет говорится, что в силу своего быстрого роста выяснение того, как искусственный интеллект собирает, хранит и использует данные, является “одним из самых срочных вопросов о правах человека, с которыми мы сталкиваемся”.
“Риск дискриминации, связанный с решениями, принимаемыми искусственным интеллектом, – решениями, которые могут изменить, определить или навредить человеческой жизни, – слишком велик”, – говорится далее в докладе. “Именно поэтому необходима систематическая оценка и мониторинг воздействия систем искусственного интеллекта для выявления и уменьшения рисков в сфере прав человека”.
ООН также призывает к большей информационной открытости компаний и стран, которые разрабатывают и используют системы искусственного интеллекта. Важно отметить, что ООН не призывает к прямому запрету – никто не испугался просмотра последнего фильма “Терминатор” – только регулирование и повышение уровня осведомленности.
Бачелет говорит: “Мы не можем позволить себе и дальше играть в салочки в отношении искусственного интеллекта – разрешать его применение с ограниченными или отсутствующими границами и надзором, а потом разбираться с почти неизбежными последствиями в отношении прав человека. Возможности искусственного интеллекта служить людям неоспоримы, но также неоспорима и его способность подпитывать нарушения прав человека в огромных масштабах и практически незаметно. Сейчас необходимо принять меры по защите прав человека при использовании искусственного интеллекта на благо всех нас”.
Какое влияние может оказать это на видеоигры и подобные технологии, пока неясно, хотя ООН явно не говорит о механизме обучения искусственного интеллекта, таком как DLSS от Nvidia, или о технологиях повышения уровня искусственного интеллекта. Один из возможных способов, как это может повлиять на видеоигры, – если компания разработает систему с искусственным интеллектом, которая узнает, как конкретные люди играют в игры, а затем использует эти данные для предоставления целевых микротранзакций, рекламы или других вещей, чтобы стимулировать вас тратить деньги – подобно принципу, запатентованному Activision в 2017 году. Будет ли ООН считать это нарушением ваших прав, я ответить не могу, но в целом призыв доклада к регулированию, вероятно, не повлияет на видеоигры значимым для игроков образом – даже если вы хотите, чтобы он призвал улучшить искусственный интеллект в таких играх, как Cyberpunk 2077.