Ключевые выводы
- Ведущий исследователь говорит, что ИИ уже обладает сознанием.
- Но другие эксперты по искусственному интеллекту говорят, что компьютеры далеки от достижения когнитивных способностей человеческого уровня, включая сознание.
- Определить, находится ли что-то в сознании, может быть непросто.
Идея сознательного искусственного интеллекта (ИИ) вызывает в воображении образы машин, захвативших мир, но эксперты расходятся во мнениях относительно того, следует ли воспринимать эту концепцию всерьез.
Ведущий исследователь ИИ недавно заявил, что ИИ уже умнее, чем мы думаем. Илья Суцкевер, главный научный сотрудник исследовательской группы OpenAI, написал в Твиттере, что «возможно, сегодняшние большие нейронные сети немного сознательны». Но другие эксперты по искусственному интеллекту говорят, что еще слишком рано определять что-либо подобное.
«Чтобы быть в сознании, объект должен знать о своем существовании в окружающей среде и о том, что действия, которые он предпринимает, повлияют на его будущее», - сказал Чарльз Саймон, генеральный директор FutureAI, в интервью Lifewire по электронной почте. «Ни того, ни другого нет в текущем ИИ».
Сверхчеловек?
Сутскевер ранее предупреждал, что супер-умный ИИ может вызвать проблемы. В интервью для документального фильма об искусственном интеллекте iHuman он сказал, что продвинутый искусственный интеллект «решит все проблемы, которые у нас есть сегодня», но также предупредил, что у них есть «потенциал для создания бесконечно стабильных диктатур».
OpenAI была основана как некоммерческая организация, призванная предотвратить риски, связанные с интеллектуальными компьютерами, но также проводила исследования, направленные на создание ИИ.
Хотя многие ученые отвергли заявление Саймона о том, что ИИ обладает сознанием, у него есть по крайней мере один известный защитник. Ученый из Массачусетского технологического института Тамай Бесироглу защитил Суцкевера в твиттере.
«Разочаровывает то, что так много видных людей, занимающихся машинным обучением, высмеивают эту идею», - написал Бесироглу в Twitter. «Это лишает меня надежды на способность этой области серьезно заняться некоторыми глубокими, странными и важными вопросами, с которыми они, несомненно, столкнутся в ближайшие несколько десятилетий».
Что такое сознание?
Даже определить, находится ли что-то в сознании, может быть сложно. Исследователь ИИ Снех Васвани сообщил Lifewire по электронной почте, что сознание имеет несколько стадий. По его словам, ИИ «прилично продвинулся» на первых этапах.
«Сегодня машина может понимать эмоции, создавать профиль личности и адаптироваться к личности человека», - добавил он. «По мере развития ИИ он продвигается к продвинутым стадиям сознания быстрее, чем мы можем даже представить».
Существует множество определений сознания, и некоторые утверждают, что деревья и муравьи в некоторой степени обладают сознанием, и эта идея «расширяет определение за пределы обычного использования», - сказал Саймон. Он утверждает, что самосознание - это понимание себя как сознательной сущности.
«И сознание, и самосознание проявляются в ряде поведенческих реакций, таких как демонстрация личного интереса, а также во внутренних ощущениях», - сказал Саймон. «Если ИИ действительно сознательны, мы сможем наблюдать за поведением, но мало что будем знать о внутренних ощущениях. Можно подделать сознание с помощью библиотеки сознательно выглядящих поведений, таких как обращение к себе как к «я», но действительно сознательная сущность способна планировать и учитывать множественные результаты».
Васвани с оптимизмом смотрит на результат создания супер-умного ИИ, хотя Илон Маск входит в число тех, кто предупреждал, что сознательный ИИ может привести к гибели человечества.
«Когда ИИ полностью обретет сознание, он завершит «неполное» общество: люди и ИИ будут сосуществовать», - сказал Васвани. «Вместе мы достигнем больших целей, и ИИ органично впишется в наш мир».
Некоторые эксперты по ИИ говорят, что сама концепция сознательного ИИ больше научная фантастика, чем реальность. Проблема имеет тенденцию чрезмерно подчеркивать роботов «стиля терминатора», а не очень реальный потенциальный ущерб от предвзятого ИИ, который уже существует, сказал Тривени Ганди, ответственный руководитель ИИ в компании ИИ Dataiku, в электронном письме Lifewire..
«Возможно, мы не сталкиваемся со следующим Ex Machina, но мы сталкиваемся с некоторыми реальными проблемами», - сказал Ганди. «Это можно увидеть в неправильном использовании сильно предвзятого ИИ для прогнозирования расходов на здравоохранение, в инструментах найма, которые несправедливо отфильтровывают резюме, или в моделях кредитования, которые усиливают существующее неравенство».
ИИ по своей природе не является хорошим или плохим, это просто данные, которые делают то, что мы ему приказываем, утверждает Ганди.
«Человеческие предубеждения находят свое отражение в данных и моделях машинного обучения, поэтому мы должны очень четко понимать, какие данные мы используем, почему мы решили использовать ИИ в этом качестве и как выбор затем предоставляется людям. подвержены влиянию системы ИИ», - добавил Ганди.
