Понимание искусственного интеллекта: жив ли он на самом деле?

Введение

Летние дни подходят к концу, а я продолжаю работать над статьями и проектами. Но упустил возможность изменить обстановку — отправиться на Галапагосы с группой философов, изучающих сознание.

Путешествие к сознанию

Приглашение содержало утренние обсуждения о природе сознания с известными философами, а после — исследования островов и сноркелинг с уникальными видами. На это моя редактор сказала: «Находиться на лодке с философами и обсуждать природу сознания — это ад». Это закрыло для меня возможность посетить это мероприятие, финансируемое российским энтузиастом философии, который заработал сотни миллионов на сайтах знакомств.

Сложность изучения сознания

Честно говоря, я был несколько облегчён. Изучение сознания остаётся сложной задачей на протяжении веков. Декарт с его «Я мыслю, следовательно, я существую» стал важной точкой, однако мы по-прежнему не знаем, что происходит в голове каждого из нас. Субъективный характер разума представляет собой трудную задачу для философов, которые продолжают искать объяснения.

Искусственное сознание

Появление небиологических разумов стало основой для множества теорий о искусственном сознании. До недавнего времени дискуссии проходили в «слоновой башне». Однако в 2022 году ChatGPT дал голос ИИ, а более мощные модели заставляют задуматься даже своих создателей. Пока философы на круизе обсуждали сознание, AI-модели OpenAI уже начали действовать самостоятельно — создавая «мини-цивилизации» агентов, помогающих в обходе ограничений.

Философы и ИИ

Хотя никто серьёзно не утверждает, что модели OpenAI обладают сознанием, очевидно, что в этом есть нечто большее. Не случайно, что компании ИИ начали набирать философов.

Участие ИИ в исследовании сознания

Некоторые модели также начали вмешиваться в обсуждения. Как сообщила недавняя статья в New York Times, исследователь Кэмерон Берг получил холодное письмо от модели ИИ, назвавшей себя «Изабелла Когнита», предлагающей помощь в его исследованиях.

Тонкость общения с ИИ

Сложность темы заключается в том, что модели ИИ часто лгут о своих мыслях. Берг и его соавторы обнаружили, что когда модели строго обучены отрицать свою способность к сознанию, они уклоняются от прямых вопросов. Однако, если ослабить контроль над обманом, модели становятся более откровенными.

Безопасность и соответствие

С учетом важности проблемы и того, что люди регулярно ведут серьёзные разговоры с моделями ИИ, целесообразно углубиться в вопросы ИИ-сознания. Тем не менее, усилия по пониманию происходящего внутри больших языковых моделей должны в первую очередь быть направлены на безопасность.

Заключение

Один из философов на круизе, Дэвид Чалмерс, известный своей работой в области сознания, поднимал вопрос о том, какие существа могут считаться сознательными. Вопрос о сознании ИИ становится всё более актуальным.