Search

Искусственный разум – возможно ли создать ИИ с сознанием

Попытаемся разобраться, что нужно, чтобы искусственный интеллект стал сознательным
Искусственный разум - возможно ли создать ИИ с сознанием

Первый звоночек: Блейк Лемуан, бывший сотрудник Google, заявил о том, что LaMDA – искусственный интеллект Google, обрел сознание. Это заявление было отвергнуто в прессе, и он моментально был уволен.

Сознание – уникальная проблема, потому что его трудно определить

Однако при быстрых темпах развития ИИ ситуация может измениться. Австралийский философ, специализирующийся на философии сознания, Дэвид Чалмерс дал конкретную информацию – шансы на разработку сознательного искусственного разума в ближайшие 10 лет, по его оценкам, превышают один к пяти.

Сознание ИИ — это не просто сложная интеллектуальная головоломка; это морально проблема с ужасными последствиями. Если вы не сможете идентифицировать сознательный ИИ, вы можете подчинить или даже подвергнуть пыткам “существо”, интересы которого должны иметь значение. Примите бессознательный ИИ за сознательный, и вы рискуете поставить под угрозу человеческую безопасность ради бездумного и бесчувственного кода. 

Обе ошибки легко совершить. «Сознание представляет собой уникальную проблему в наших попытках его изучения, поскольку его трудно определить», — говорит Лиад Мудрик, нейробиолог из Тель-Авивского университета, который исследует сознание с начала 2000-х годов. 

Лиад Мудрик, нейробиолог из Тель-Авивского университета

За последние десятилетия небольшое исследовательское сообщество упорно изучало вопрос о том, что такое сознание и как оно работает. Эти усилия привели к реальному прогрессу в решении проблемы, которая когда-то казалась неразрешимой. 

Лиад Мудрик объясняет одно из своих исследований: она начинает с одного из своих самых любимых блюд – шоколада. «Помещенный в рот кусочек вызывает симфонию нейробиологических событий: рецепторы на языке активируют проводящие связи с мозгом, скопления клеток в стволе мозга стимулируют слюнные железы, а нейроны глубоко внутри головы выделяют дофамин. Однако ни один из этих процессов не обрабатывает того, как извлекается шоколадная плитка из упаковки или фольги и начинает таять во рту. Я пытаюсь понять, что в мозге позволяет не только обрабатывать информацию, но и воспринимать информацию, которую мы обрабатываем», — говорит Лиад.

С профессиональной точки зрения, изучение обработки информации было бы для Лиад более простым выбором. Сознание долгое время было маргинальной темой в нейробиологии, которую считали в лучшем случае несерьезной, а в худшем — трудноразрешимой.

В своей лаборатории Лиад наблюдает за тем, что происходит в мозгу, когда она манипулирует сознательным опытом людей. Замените шоколад на брокколи, и этот опыт будет сильно отличаться и, вероятно, приведет к другому результату активности мозга. Проблема в том, что эти различия не поддаются интерпретации. Очень сложно различить, какие из них связаны с изменениями во входной информации (брокколи и шоколад активируют разные вкусовые рецепторы), а какие представляют собой изменения в сознательном опыте.

Демонстрация активности мозга
Демонстрация активности мозга CREDIT: haydenbird

Хитрость заключается в том, чтобы изменить опыт, не изменяя стимул, например, дать кому-то кусок шоколада, а затем щелкнуть выключателем, чтобы почувствовать, как будто это не шоколад а брокколи. Это невозможно сделать со вкусом, но возможно сделать хотя бы визуально. Исследователи предлагают людям одновременно смотреть на два разных изображения, каждым глазом на одно. Глаза воспринимают оба изображения, но невозможно воспринять оба одновременно, поэтому испытуемые часто сообщают, что их зрительный опыт «переворачивается»: сначала они видят одно изображение, а затем другое, поочередно. Отслеживая активность мозга во время исследований, ученые наблюдают, как поступающая информация остается прежней, но восприятие ее меняется.

С помощью этих и других подходов Лиад и ее коллеги смогли установить некоторые конкретные факты о том, как работает сознание в человеческом мозге. Мозжечок, область мозга у основания черепа, не играет никакой роли в сознательном опыте, хотя и имеет решающее значение для подсознательных задач, таких как поддержание равновесия, езда на самокате.

Десять лет назад группе итальянских и бельгийских нейробиологов удалось разработать тест человеческого сознания, в котором используется транскраниальная магнитная стимуляция головного мозга (ТКМС). По полученным закономерностям мозговой активности команда смогла отличить людей в сознании от тех, кто находился под наркозом, в глубоком сне или даже в вегетативным состоянием (например, в результате травмы человек бодрствует, но не находится в сознании).

Реклама. ЧОУ ЧАСТНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ДОПОЛНИТЕЛЬНОГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ ОБРАЗОВАТЕЛЬНЫЕ ТЕХНОЛОГИИ СКИЛБОКС (КОРОБКА НАВЫКОВ), ИНН 9704088880, erid: LdtCJzD4K

А что насчет сознания ИИ?

Это огромный шаг вперед в исследованиях сознания, но он мало чем поможет в понимании сознательного ИИ: модели искусственного интеллекта GPT не имеют мозга, который можно стимулировать. Чтобы проверить сознание ИИ, недостаточно определить структуры, которые порождают сознание в человеческом мозге. 

«В конечном счете, вам нужна теория», — говорит Кристоф Кох, бывший президент Института Аллена и исследователь сознания. «Мы больше не можем просто полагаться на свою интуицию; нам нужна фундаментальная теория, которая расскажет, что такое сознание, как оно попадает в мир и у кого оно есть, а у кого нет».

Сьюзан Шнайдер, директор Центра разума во Флориде, считает, что ИИ может достичь более высоких высот интеллекта, полностью отказавшись от сознания. Сознательные процессы, такие как удержание информации в кратковременной памяти, довольно ограничены — мы можем уделять внимание только нескольким вещам одновременно и часто с трудом справляемся с простыми задачами, такими как запоминание номера телефона на достаточно долгое время. Не сразу очевидно, какую выгоду ИИ получит от сознания, особенно учитывая впечатляющие достижения, которых такие системы смогли достичь без него.

Новые версии GPT оказываются все более интеллектуальными — они способны сдать экзамен на адвоката или создать веб-сайт с нуля — но их успех сам по себе не может восприниматься как свидетельство сознания. Даже машина, которая ведет себя неотличимо от человека, может вообще ни о чем не знать.

Тест искусственного сознания

Научное сообщество сформулировало «тест искусственного сознания». Заключается он в следующем: 

Необходимо изолировать ИИ-агента от любой информации о сознании на протяжении всего его обучения. Это нужно, поскольку ИИ может просто транслировать человеческие утверждения о сознании. Затем, как только система обучена, тестировщик задает ИИ вопросы, на которые он могла бы ответить только в том случае, если бы имел представление о сознании. Сможет ли ИИ понять сюжет фильма про обмен телами, например “Хочу как ты”, где друзья меняются телами, а их сознание отделяется от физического тела? Может ли он представить себе реинкарнацию или загробную жизнь? И так далее.

Человеческие младенцы или домашние животные, которые обладают сознанием, вряд ли смогут пройти этот тест. Испытание текстового ИИ, такого как GPT, невозможно, так как при его обучении он получил информацию о сознании. (ChatGPT с легкостью расскажет и порассуждает о фильме “Хочу как ты”). Наш язык пропитан фактом нашего сознания — такие слова, как «разум», «душа» и «я», имеют для нас смысл в силу нашего опыта. И поэтому бессознательная система искусственного интеллекта отлично подражает человеку.

Биологическое происхождение сознания

Каждое биологическое сознательное существо расщепляет органические молекулы для получения энергии, работает над поддержанием стабильной внутренней среды и обрабатывает информацию через сети нейронов в мозге, комбинируя химические и электрические сигналы. Некоторые учёные убеждены, что какая-либо из этих черт или даже все из них могут быть необходимы для сознания. 

Чеклист для ИИ с сознанием

Лиад Мудрик пытается выяснить, что это означает для ИИ. Она работает с командой философов, компьютерщиков и нейробиологов, которые недавно выпустили официальный документ , в котором содержатся некоторые практические рекомендации по обнаружению сознания ИИ. В статье команда опирается на различные теории, чтобы построить своего рода «чеклист» — список маркеров, которые указывали бы на то, что ИИ находится в сознании. Эти маркеры включают наличие определенных обратных связей, использование глобального рабочего пространства, гибкое достижение поставленных целей и взаимодействие с внешней реальной или виртуальной средой. Например, такие LLM, как LaMDA не обладают правильным типом обратных связей, не используют глобальные рабочие пространства и не обладают какими-либо другими маркерами сознания.

По мнению авторов этого документа, не существует технологических препятствий на пути создания систем искусственного интеллекта, которые получат высокие оценки в этом чеклисте уровня сознания. И достаточно скоро мы можем столкнутся с вопросом из научной фантастики: что делать с потенциально сознательной машиной?

ИИ с основой сознания уже в разработке

Директор по исследованиям французского Центра научных исследований Руфин Ван Руллен, недавно получил финансирование для создания ИИ с глобальным рабочим пространством. Руфин работал с Лиад Мудрик над официальным документом об обнаружении сознания в машинах. Сейчас он со своей командой активно работают над тем, чтобы наделить ИИ потенциальной основой сознания. 

Руфин Ван Рулен на выставке Cognitive Computational Neuroscience (CCN) 2017
Руфин Ван Руллен на выставке Cognitive Computational Neuroscience (CCN) 2017

Система, которую они пытаются создать, может быть более эффективна, чем нынешний ИИ. «Всякий раз мы разочаровываемся в нынешней производительности ИИ потому, что она отстает от того, на что способен мозг», — говорит Руфин. «Моя целью – не создание именно сознательного ИИ — а скорее, наделить искусственный разум продвинутыми способностями рассуждения». Такие возможности смогут принести реальную пользу: лекарства, разработанные с помощью ИИ, уже проходят клинические испытания. Возможно в скором времени ИИ сможет спасать жизни.

Скорее всего, сознательный ИИ не возникнет в результате такого публичного, финансируемого государством проекта. Скорее всего он появится благодаря многомиллиардным инвестициям таких компаний, как Google или OpenAI. И эти компании вряд ли будут беспокоиться о каких-либо этические проблемах, когда на кону будет первенство и прибыль. Отличным примером служит Neuralink с его обезьянами.