Каковы риски взлома искусственного суперинтеллекта?

Исследовательская группа с Кембриджского университета по изучению экзистенциальных рисков запустила мод к игре Civilization 5, который добавляет искусственный суперинтеллект для 4Х строительства колоний. Рассматривая как мы живем и взаимодействуем с гипер-интеллектуальными ботами, проект направлен на демонстрацию эффектов домино, которые могут влиять на человечество.

Этот мод вводит ряд технологий ИИ в технологическое дерево. Успех, в свою очередь, зависит от вашей способности управлять доверием человечества к разумным существам, где ИИ может быть либо полезным, либо разрушительным.

«Искусственный интеллект первоначально может обеспечить некоторые преимущества и в конечном итоге может превратиться в суперинтеллект, который принесет мастерство владения искусством науки своему первооткрывателю», – говорится в аннотации Steam.

«Однако, если слишком много исследований искусственного интеллекта станут неконтролируемыми, мошеннический суперинтеллект может уничтожить человечество и мгновенно принести поражение в игре».

Создатели указывают, что суперинтеллектуальный мод влияет только на последнюю версию Civ 5, поэтому игру следует начинать в современную эпоху для того, чтобы увидеть эффект режима.

«Мы хотим позволить игрокам испытывать напряженность и принимать трудные решения, которые создавали бы путь к искусственному суперинтеллекту», – говорит доктор Шахар Авин. «Игры – отличный способ доставить комплексное сообщение широкой аудитории. Серия игр “Civilization” имеет замечательный послужной список представления очень сложных и взаимосвязанных систем веселым и обучающим способом, включая такие проблемы глобального риска, как ядерная война и глобальное потепление».

Суперинтеллектуальный мод к Civilization 5 можно загрузить через Steam.

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Кембриджский университет запускает суперинтеллектуальный мод для Civilization V

Похожее