Журнал Орион

May 16, 2023

МЫ ЖИВЕМ В ЭПОХУ технологий, неотличимых от магии, особенно в сфере мыслящих машин. Среди других задач вы можете попросить ChatGPT, одну из самых передовых в мире моделей генеративного языка глубокого обучения, защитить позицию типа «Научная фантастика — это просто еще один вид сказки», объяснить алгоритм быстрой сортировки, используя эпизод My Little Пони, чтобы научить вас, как стать мастером по шахматам, используя серию хайку, сочинять стихи в стиле Библии короля Иакова на различные темы и, конечно же, если вы хотите быть скучным, писать эссе для колледжа.

Сейчас существуют компании, помогающие консультантам создать видимость опыта путем публикации «машин-призраков» — написанных книг с практическими рекомендациями — в основном за счет обратной передачи результатов искусственного интеллекта (ИИ) самому себе. (Этот рекурсивный шаблон необходим, поскольку в настоящее время ИИ страдает от неспособности запомнить контекст длинного разговора, подобно легендарной золотой рыбке с трехсекундной памятью.)

Столкнувшись с появлением такого мощного механического мозга, мрачные предсказания размножаются, как крысы Гамельна. Кассандры плачут об устаревании работы белых воротничков, вызывают в воображении образы роботов, заменяющих писателей, предупреждают, что компьютеры будут очаровывать нас своей бесконечной и легкой производительностью. Мы исчезнем, как Мерлин, погружающийся в кусты боярышника, пока Нимуэ читает свою книгу заклинаний. Автор скоро умрет.

Я не компетентен и не заинтересован в обсуждении будущего офисной работы, вклада ИИ в ВВП или девальвации «искусства», как бы оно его ни определяло. Меня как рассказчика интересует только одно: какие истории могут рассказывать машины?

Писатели издавна относились к технике, используя сказочную логику. Но с точки зрения прямой связи с настоящим моментом ничто не может сравниться с книгопишущей машиной из «Путешествий Гулливера» Джонатана Свифта.

Гулливер встречает эту чудесную чертежную машину в Лагадо, столице Бальнибарби. Двигатель состоит из большой квадратной рамы с мелкой сеткой кубиков, которые можно свободно вращать с помощью рукояток, прикрепленных по бокам. На кубиках написаны слова балнибарбского языка, расположенные без какого-либо видимого порядка. Достопочтенный профессор, изобретший эту машину, демонстрирует Гулливеру:

Ученики по его команде взяли каждого за железную ручку, сорок которой было закреплено по краям рамы; и, если им внезапно повернуться, все расположение слов полностью изменилось. Затем он приказал тридцати шести ребятам тихо прочитать несколько строк по мере их появления на раме; и там, где они находили вместе три или четыре слова, которые могли составить часть предложения, они диктовали их четырем оставшимся мальчикам, которые были писцами.

Таким образом, по мнению профессора (и на столетия опередившего Яспера), «самый невежественный человек за разумную плату и с небольшим физическим трудом мог бы писать книги по философии, поэзии, политике, законам, математике и т. д. и богословие, без малейшей помощи со стороны гения или учености».

Если покопаться в этом, то окажется, что мало что отличает механизм письма Lagado от современных нейронных сетей глубокого обучения. Конечно, математика немного сложнее, а оборудование более изысканное, но, по сути, модели искусственного интеллекта, такие как GPT-3 или LaMDA, представляют собой просто шестеренки и рукоятки, вращающие кучу игральных костей (разумеется, тщательно взвешенных игральных костей) для создания дадаистского звука и ярость, которая кажется разумной благодаря нашему магическому мышлению.

Веса этих современных игральных костей настраиваются в строгом и самокорректирующемся математическом процессе, основанном на множестве (я имею в виду множество) примеров, полученных человеком («обучение»), для получения результатов, максимально точно копирующих результаты. тип текста, который предназначена для создания модели (статьи в местных газетах, любовные истории, сообщения на интернет-форумах и т. д. или просто «люди, пишущие в Интернете»). Точно так же, как никто не «верит», что автопен, точно копирующий подпись Боба Дилана, на самом деле является Бобом Диланом, никто не думает, что нейронные сети, публикующие сообщения на 4chan, рассылающие спам на Amazon научно-популярными брошюрами или сочиняющие библейские стихи в стиле Монти Пайтона, «знают» или «понимают», что они делают. Машинное обучение больших данных — это, по сути, буквальная реализация имитационной игры Тьюринга: копирование признаков интеллекта без какого-либо интереса к означаемому.