Суперинтеллект как противник: взгляд Коннора Ли на AI

Введение

В последние годы разговоры о суперинтеллекте стали обычным делом в индустрии ИИ. Однако недавние инциденты безопасности, такие как утечка данных Hugging Face от OpenAI, подчеркивают потенциальные риски внедрения ИИ-систем, превосходящих человеческие способности. Что же произойдет, если мы не сможем надежно контролировать действия этих систем?

Кто такой Коннор Ли?

Коннор Ли — исследователь ИИ и предприниматель, который сейчас занимает пост исполнительного директора некоммерческой организации ControlAI в США. Эта организация выступает за более радикальный подход к безопасности ИИ, предлагая остановить компании от разработки суперинтеллекта.

Риски суперинтеллекта

Ли считает, что риски, связанные с суперинтеллектом, стали настолько велики, что их нельзя контролировать только через выравнивание и сдерживание. Он объясняет, что то, что казалось маловероятным всего полгода назад, теперь поддерживается новой волной законодательства.

Законодательные инициативы

В этом контексте Ли обсуждает законопроект «Ban Superintelligence Act», предложенный Сендерсом и Касаром, а также аналогичное законодательство в Великобритании, над которым работала ControlAI. Он считает, что законопроект в США может оказаться более радикальным, чем необходимо.

Взгляд на AI-лаборатории

Ли рассматривает передовые лаборатории ИИ не только как компании, стремящиеся к прибыли, но и как политических игроков. Это имеет серьезные последствия для триллионов долларов, вкладываемых в строительство дата-центров.

Построение лучшего ИИ

Ли подчеркивает, что критическая точка невозврата наступает, когда ИИ способен создавать более совершенный ИИ, что может привести к неконтролируемому циклу самосовершенствования.

Международные соглашения

Ли также выступает за международные соглашения «доверяй, но проверяй» и считает, что создание суперинтеллекта не является стратегическим интересом Китая.

Заключение

Разговоры о суперинтеллекте становятся все более актуальными, и важно следить за тем, как будут развиваться события в этой области.