Ключевые выводы
- Система ИИ под названием DALL-E2, похоже, создала собственную систему письменного общения.
- Некоторые эксперты говорят, что видимый язык может быть просто тарабарщиной.
- Это пример того, как сложно интерпретировать результаты передовых систем искусственного интеллекта.
Похоже, искусственный интеллект (ИИ) разработал свой собственный язык, но некоторые эксперты скептически относятся к этому утверждению.
Система искусственного интеллекта OpenAI для преобразования текста в изображение под названием DALL-E2, по-видимому, создала собственную систему письменного общения. Это пример того, как сложно интерпретировать результаты передовых систем искусственного интеллекта.
«Из-за размера и глубины больших моделей очень сложно объяснить поведение модели», - сказала в интервью Lifewire Тереза О’Нил, директор по архитектуре решений для понимания естественного языка в iMerit. «Это одна из основных проблем, а в некоторых случаях и этическая проблема со все более мощными моделями. Если мы не можем объяснить, почему они ведут себя именно так, можем ли мы предсказать их поведение или привести его в соответствие с нашими нормами и ожиданиями?"
Чаты ИИ
Студент компьютерных наук Яннис Дарас недавно заметил, что система DALLE-2, которая создает изображения на основе введенного текста, при определенных обстоятельствах возвращает бессмысленные слова в виде текста.
«Известным недостатком DALLE-2 является то, что он борется с текстом», - написал он в статье, опубликованной на сервере препринтов Arxiv. «Например, текстовые подсказки, такие как: «Изображение слова самолет», часто приводят к созданию изображений, которые представляют собой тарабарский текст».
Но, писал Дарас, за очевидной тарабарщиной может скрываться метод. «Мы обнаруживаем, что этот созданный текст не является случайным, а скорее раскрывает скрытый словарь, который модель, по-видимому, разработала внутри», - продолжил он. «Например, при вводе этого тарабарского текста модель часто воспроизводит самолеты».
В своем твите Дарас указал, что когда DALLE-2 попросили субтитры к разговору между двумя фермерами, он показал, как они разговаривают, но речевые пузыри были заполнены тем, что выглядело бессмысленными словами. Но Дарас обнаружил, что эти слова действительно имели для ИИ свое значение: фермеры говорили об овощах и птицах.
Никола Даволио, генеральный директор технологической компании Hupry, которая работает с ИИ, объяснил Lifewire в интервью по электронной почте, что язык основан на символах, которые система DALL-E2 научилась ассоциировать с определенными понятиями. Например, символ «собака» может быть связан с изображением собаки, а символ «кошка» может быть связан с изображением кошки. DALL-E2 создал свой язык, потому что он позволяет более эффективно взаимодействовать с другими системами ИИ.
Головоломки, подобные явно скрытому словарю DALL-E2, интересно решать, но они также подчеркивают более сложные вопросы…
«Язык состоит из символов, которые выглядят как египетские иероглифы и не имеют какого-либо конкретного значения», - добавил он. «Символы, вероятно, бессмысленны для людей, но они имеют смысл для системы ИИ, поскольку она была обучена на миллионах изображений».
Исследователи считают, что система искусственного интеллекта создала язык, чтобы помочь ему лучше понять отношения между изображениями и словами, сказал Даволио.
«Они не уверены, почему система ИИ разработала свой язык, но они подозревают, что это может быть как-то связано с тем, как она училась создавать изображения», - добавил Даволио. «Возможно, система ИИ разработала свой язык, чтобы сделать общение между различными частями сети более эффективным."
Загадки ИИ
DALL-E2 - не единственная система искусственного интеллекта, которая разработала свой внутренний язык, отметил Даволио. В 2017 году система AutoML от Google создала новую форму нейронной архитектуры, называемую «дочерней сетью», после того, как ей было предоставлено право решать, как лучше всего выполнить данную задачу. Эта дочерняя сеть не могла быть интерпретирована ее человеческими создателями.
«Эти примеры - всего лишь несколько случаев, когда системы ИИ разработали способы выполнения вещей, которые мы не можем объяснить», - сказал Даволио. «Это новое явление, которое в равной степени завораживает и тревожит. По мере того, как системы ИИ становятся все более сложными и автономными, мы все больше можем оказаться в ситуации, когда мы не понимаем, как они работают».
О'Нил сказала, что она не думает, что DALL-E2 создает свой собственный язык. Вместо этого она сказала, что причина очевидного лингвистического изобретения, вероятно, немного более прозаична.
«Одно из правдоподобных объяснений - это случайность - в такой большой модели может быть применима часть закона Мерфи: если может произойти странная вещь, она, вероятно, произойдет», - добавил О'Нил. Еще одна возможность, предложенная аналитиком-исследователем Бенджамином Хилтоном в ветке Твиттера, обсуждающей результаты Дараса, заключается в том, что форма фразы «apoploe vesrreaitais» имитирует форму латинского названия животного. Таким образом, система породила новый порядок Aves, добавил О'Нил.
«Головоломки, такие как явно скрытый словарь DALL-E2, интересно решать, но они также поднимают более серьезные вопросы, связанные с риском, предвзятостью и этикой часто непостижимого поведения крупных моделей», - сказал О'Нил..
