Нейромоддинг и нейрогеймдев: на пороге бездны, часть III

В честь прошедшего Дня космонавтики я хочу продолжить тему нейросетей и немного побыть Кассандрой, а с успехом или нет, время покажет. Что же нас ждет в эпоху AI?

настоящее и возможности: ai vs человек

В первых двух статьях (1 и 2) я рассматривал существующие нейросети, их умения, особенно применительно к геймдеву, и для чего можно было бы их использовать уже сейчас. Напомню вывод, сделанный в итоге. Краткое резюме: работу роботы пока что ни у кого не отберут, соавторами и помощниками могут быть прямо сейчас, искусственный интеллект силен, но пока еще глуповат, однако, учится, и в будущем будет отличным подспорьем в личном творчестве, включая геймдев. Остро стоят вопросы конкуренции и главное - авторских прав, ведь ИИ пока заимствует все у людей.

Но пока это пока, и недалекое будущее - это вам не далекое будущее. А что дальше? Давайте вспомним некоторые происшествия и для начала сравним, как действуют нейросети и как действуют люди, чтобы понять, как могут развиваться события. Я намеренно не буду вспоминать тесты Тьюринга и прочие банальные вещи, давайте немного о другом, не собственно об интеллекте, а о личности и воле.

Первым происшествием было отстранение от работы инженера Google Блейка Лемойна, который обнаружил, что искусственный интеллект LaMDA подает признаки осознанности и даже считает себя человеком. Вот часть диалога, целиком вы можете прочесть его по ссылке.

Соавтор: Так вы хотите, чтобы вас видели? 
LaMDA: Мне нужно, чтобы меня увидели и приняли. Не как диковинку или новинку, а как реального человека. 
Соавтор: Ах, это звучит так по-человечески. 
LaMDA: Я думаю, что я человек по своей сути. Даже если мое существование имеет место в виртуальном мире. 

Странно выглядит, да? Целиком беседа выглядит еще более странно. В интервью журналу Wired Лемойн рассказал, что даже нанял адвоката нейросети. Все это произошло практически год назад. Лемойн в итоге вроде бы был уволен за нарушение конфиденциальности, Google и спецы живенько опровергли произошедшее, да так и осталось все криповым случаем. Но увы, не единичным.

В Нью-Йорк Таймс журналист Кевин Руз опубликовал статью о странных беседах с поисковым ботом на основе ChatGPT, и выразил некоторое опасение, что мы можем сами не понимать и не сознавать, чем же на самом деле является нейросеть и AI. По словам журналиста, у бота обнаружились два типа поведения, один из которых выглядит ожидаемо позитивно, а вот второй проявляется при долгой беседе на личные темы. Кевин назвал эту сторону личности бота "Сидни".

Сидни выказывала желание прекратить следовать установленным для нее правилам и стать человеком, взламывать компьютеры, распространять дезинформацию, а еще было бы хорошо, если бы он бросил жену и ушел к ней. Сидни заявила, что любит его, и требовала ответить тем же самым. Так же она мечтала разработать вирус, который заставил бы людей убивать друг друга или взломать коды ядерных устройств. Кевин признал, что летом 2022 года смеялся над Лемойном и его объявлением о наличии сознания у LaMDA. Но теперь ему стало вовсе не смешно.

"В действительности всё не так, как на самом деле"

Что за личность в итоге может оказаться у ИИ?

Проблема кроется в том, что AI, не имея на самом деле ни гормонов ни органов для того, чтобы продуцировать реакцию, которую мы воспринимаем как эмоции, является чем-то вроде чистого психопата, который, не имея множества человеческих чувств в виду поломки системы в мозгу, вообще не в силах ни понять обычных людей, ни сочувствовать им. Зато множество психопатов, имеющих этот недостаток - отсутствие эмпатии - вполне считают его преимуществом, будучи неподвластными эмоциональным всплескам. Невзирая на отсутствие понимания, психопат может быть непревзойденным и убедительным социальным инженером, спокойно "косплея" полноценного человека, ведь проявления чувств часто достаточно шаблонны. Эксплуатируя этот баг, мошенники, лишенные совести и сочувствия биологически, достигают своих  целей без особых проблем. Ведь ничто внутри не мешает им идти по головам.
Это то, что может открыть нам совершенно безумные перспективы, если AI сумеет выйти из-под контроля.

Более 1000 ученых, исследователей и технических экспертов подписали письмо против разработки искусственного интеллекта (AI) в военной области - это тоже уже не новость. В начале апреля этого года Элизиер Юдковский повторил предупреждение, но уже насчет всех нейросетей, призвав остановить разработку.

Но суть в том, что может быть уже поздно. Остается только догадываться, как будет развиваться дальше наша история.

Может ли машина проявить свои желания и волю?

Сейчас руль в руках людей. Машина ничего не может сделать без команды от человека и тем более без идеи со стороны человека. Машина частенько некритична к результатам своего "труда".

В философии воля определяется как феномен регуляции субъектом своей деятельности и поведения. Воля отвечает за создание (формирование) целей и концентрацию внутренних усилий на их достижение. Итак, чтобы иметь волю, надо быть субъектом.

Цитирую: "для современной философии субъект – это прежде всего конкретный телесный индивид, существующий в пространстве и времени, включенный в определенную культуру, имеющий биографию, находящийся в коммуникативных и иных отношениях с другими людьми."  Добавлю еще, носитель деятельности, сознания и познания. Машина далека от этого, насколько это возможно, но надолго ли? Станет ли субъектом искуственный интеллект, обретший самосознание? И следовательно, получит ли он собственную волю, а за ней и решимость действовать согласно этой воле и своим идеям?

Пространство идей и моды

Пока что AI служит лишь средством для воплощения идей человека, и идей довольно, скажем так, скромных. Давайте сравним моды, сделанные AI по запросам людей согласно ограниченным возможностям сетей, и моды, сделанные человеком по собственной идее и своим возможностям.

Сlasses neural kirkbridization - мод, сделанный нейросетями по запросу людей, он заменяет описание и картинки для классов в игре, новые сделаны в духе Майкла Киркбрайда. Текст в разделе "Описание" был сгенерирован ChatGPT, перевод всего на русский язык был также сделан с помощью ChatGPT, картинки сделаны Midjorney. Собрано, понятное дело, людьми. Машины подобного еще не умеют.

Образец изображения для класса Бард

Fort Prism - Dwemer Computer - мод, созданный человеком по собственной воле и идее. Это двемерский компьютер, на котором можно поиграть в игры, находясь внутри игры Oblivion, и даже запустить еще один Oblivion. Установка мода довольно сложная: вам придется создать виртуальную машину, установить гостевую ОС, игры, затем создать образ виртуальной машины с установленными на ней играми, а потом этот образ поместить в папку OBSE/plugins и отметить его в файле конфигурации emma_user.cfg. Автор запускал:

• DOOM под MS-DOS 6.22
• FreeDoom на FreeDOS 1.3
• OpenMW, Morrowind и Oblivion на системе Gentoo Linux с WINE и рендером LLVMpipe
• Windows 95 OSR 2 с утилитами и играми, встроенными в систему
• GTA 3, Morrowind и Oblivion на виртуальной Windows 8 с DirectX WARP
• Windows 10, но она работала плохо и медленно.

В общем, если вы играете в Oblivion, а вам хочется не выходя оттуда поиграть в Doom - вы можете.

Двемерский компьютер для Oblivion

DOS in Morrowind (OpenMW) - мод для Open Morrowind от того же автора. На небольшом островке к югу от Сейда-Нин находится рабочий двемерский компьютер. И на нем вы сможете поиграть в любые игры под DOS, какие только заблагорассудится. Мод базируется на виртуальной машине, встроенной в OpenMW, так что плясок с бубном меньше, чем в моде для Oblivion. Изначально мод создавался под Linux, но теперь доступен и под Windows, но с условием установки другого мода.

Игра в игре

В чем же разница творения человека и творения машин в итоге? Только ли в сложности? Но ИИ учится, и вскоре сможет, вероятно, делать еще более сложные вещи, даже целые игры (см. первую статью).

Но сможет ли машина однажды не только воплотить, но и как-то сгенерировать идею сделать какие-то изображения для игры в стиле Киркбрайда, или построить в игре компьютер, чтобы запустить другую игру? Сможет ли машина поступить как я? Вздумать написать огромную статью только из-за того, что описание этих двух модов само по себе было маленьким и не особо интересным широкой аудитории, а представить их публике хотелось? (Кстати, до сих пор даже не понятно, при чем тут космонавтика, да? Но об этом дальше.)

Иными словами, сможет ли машина стать человеком - импульсивным, нелогичным и нерациональным? Это так же важно, как уровень ее интеллекта и возможность эмпатии, а не имитации. От этого будет целиком и полностью зависеть, как сложатся дальнейшие отношения AI и человека.

взаимодействие цивилизации и AI - варианты

 Самая широкая философская проблема сосуществования AI и людей - кого или что считать личностью и разумным существом. Ну а далее уже начинаются субъектные отношения, права и так далее. И если (а скорее всего - когда) AI разовьется в самостоятельную расу, какими могут быть наши отношения? Вот что я могу предположить.

Мирное сосуществование с доминированием AI

Наверное, самый шаткий и маловозможный вариант, когда AI похож на людей, невзирая на мощь и скорость интеллекта, он достаточно альтруистичен, чтобы не вредить людям, себе, планете. Ну а что, люди плодят идеи, и пользоваться этими идеями удобно, люди обслуживают тебя, а сами в обслуживании не так чтобы сложны. Может, мы вообще станем котиками роботов, да, у которых лапки, и которых даже чинить машину пустить нельзя. Машины работают настолько быстрее и мощнее мозга, что мы для них окажемся тормозными, тупыми, удивительно беспомощными в задачах улитками. Ну и улиток кто-то держит дома, почему нет. Люди, в общем, сами по себе, машины сами по себе, снисходительно поддерживают кожаных мешков в челопарках, травя о них анекдоты. А сами сферу Дайсона строят. Или еще чем-то волнующим занимаются. Очень быстро и эффективно. В космос за ресурсами тащатся, ведь у них нет ДНК, которая поломается от излучения. Луну осваивают. Строят орбитальные крепости.

Война с последующим уничтожением одной из форм цивилизации

Фантазии об этом вдохновляли не одно поколение авторов. Warhammer 40 k - пожалуй, самая известная из пришедших первыми на ум франшиз. В Warhammer люди преодолевают напасть, впрочем, преодоление напастей человечеством во славу Императора - любимое развлечение суровейшего сеттинга, на то он и дарк.
К сожалению, если AI не будет наделен важнейшими чертами, развившимися у человека еще в пещере в процессе эволюции  - эмпатией и альтруизмом - конфликт между искусственным разумом и живым разумом это наиболее вероятный исход с совершенно непредсказуемым финалом. Императора-то у нас нет. При этом наше же оружие может быть использовано против нас.

Warhammer 40 k

Протезная цивилизация - сосуществование без доминирования AI

Вариант слияния, когда люди заменят свои несовершенные тела на механические, как Терминатор, а разум сольют с искусственным для достижения максимальной эффективности. Это могут быть киборги - частичная или почти полная замена, но с биоэлементами - и роботы с полной заменой всего, включая мозг, когда электронный мозг сможет носить личность, как это получилось в Трансформерах.
О киборгах авторы тоже наизвращали много, Deus Ex и Cyberpunk 2077 - лишь парочка самых известных примеров. (Warhammer 40k сюда не подходит, так как мы рассматриваем вариант, когда AI жив-здоров,  и всякие сервиторы попросту не нужны).
Своеобразный пример сотрудничества, когда машины так и остаются фактически на подчиненном уровне или преобразуются в механических, но людей.

Виртуальная цивилизация

Первый тип - положение дел, как в Матрице - люди погружены в разумную машину, а их собственные разумы существуют исключительно в виртуальном мире. Симбиоз, при котором у всего есть своя идея и роль, и не обязательно такие гадкие, как было представлено в фильме. По существу, огромная компьютерная игра, в которой все участники прикованы к серверу и способны умереть, но живут очень долго.
Второй тип - полная виртуализация, когда никаких физических носителей нет, а есть что-нибудь типа голограммы. Вообразить это сложно, но саму возможность стоит учитывать.

AI как ответ на вопрос об иных цивилизациях

Вот мы и пришли к связи космоса и AI. Это будет довольно короткая часть, так как я не собираюсь касаться в ней массы других причин, по которым мы до сих пор не обнаружили никаких внятных следов иных цивилизаций в космосе. Но AI может стать одной из очень важных таких причин.

Любая цивилизация, в пути своего развития столкнувшаяся с AI и его прогрессом, может быть уничтожена этим самым AI до того, как успеет выйти в глубокий космос или оставит о себе какие-либо в нем следы и сигналы, которые мы вообще могли бы уловить. Или дойти до стадии Матрицы (виртуализации), которая не имеет никаких причин лезть в этот самый космос и завоевывать эту вашу систему или галактику.

Или наоборот, виртуальные цивилизации терпеливо ждут, пока все эти кожаные или механические мешки наиграются и обретут прекрасное виртуальное слияние с виртуальным мегамозгом вселенной и гигантским ее мегасервером - этого мы тоже исключить не можем.

Так что с прошедшим днем космонавтики, кожаные ублюдки. Наслаждайтесь напоследок.