ИИ-утопия, ИИ-апокалипсис и ИИ-реальность

В недавних статьях и книгах об искусственном интеллекте (ИИ) представлены образы будущего, которые выстраиваются, как железные опилки вокруг двух магнитных полюсов — утопии и апокалипсиса.

С одной стороны, говорят, что ИИ ведёт нас к идеальному будущему, полному комфорта, здоровья и расширенного понимания. Мы, с помощью наших машин и их больших языковых моделей (LLM), будем знать практически всё и делать правильный выбор, чтобы вступить в эпоху постоянного просвещения и изобилия.

 С другой стороны, ИИ может привести нас в будущее, полное безработицы, разрушения окружающей среды и заблуждений. Наши машины будут поглощать скудные ресурсы, распространяя дезинформацию и создавая смертоносное оружие, которое агенты ИИ будут использовать, чтобы уничтожить нас, когда мы перестанем быть для них полезными.

Утопия и апокалипсис издавна оказывали мощное влияние на человеческое воображение и поведение. (Моя первая книга, опубликованная в 1989 году и дополненная в 1995-м, называлась «Воспоминания и видения рая: исследование универсального мифа о потерянном золотом веке»; в ней рассматривалась история и значение утопического архетипа.) 

Новые технологии, как правило, активизируют эти два полярных аттрактора в нашей коллективной психике, потому что изготовление орудий труда и язык — это две суперспособности человечества, которые позволили нашему виду захватить мир, но в то же время привели нас к экзистенциальной опасности.

 Новые технологии усиливают власть одних людей над природой и другими людьми, принося пользу, которая, если мысленно экстраполировать её в будущее, порождает ожидания грандиозного будущего. Но новые технологии также влекут за собой издержки (истощение ресурсов, загрязнение окружающей среды, усиление экономического неравенства, несчастные случаи и злоупотребления), которые вызывают опасения по поводу окончательного расплаты. 

Язык усиливает наш талант в создании инструментов, позволяя нам учиться у других; он также является средством формулирования и выражения наших надежд и страхов. ИИ, поскольку он является одновременно технологическим и лингвистическим, а также поскольку он внедряется в бешеном темпе и так стремительно, особенно склонен вызывать рефлекс «утопия/апокалипсис».

Мы, люди, неоднозначно относимся к технологиям, по крайней мере, с тех пор, как научились писать. Инструменты позволяют нам красть огонь у богов, как мифическому Прометею, которого боги наказали вечными муками; они — крылья Икара, который подлетел слишком близко к солнцу и разбился насмерть. ИИ обещает сделать технологии автономно разумными, что напоминает ещё одну поучительную историю — «Ученик чародея».

Что может пойти не так — или пойти так? После краткого обзора утопических и апокалиптических представлений об ИИ я рассмотрю два вопроса: во-первых, как эти крайние точки зрения помогают или мешают нам в наших попытках понять ИИ? И во-вторых, кому служат эти представления? Как мы увидим, есть некоторые ранние намёки на конечные пределы возможностей ИИ, которые указывают на будущее, не совпадающее со многими самыми большими надеждами или самыми глубокими страхами, связанными с новой технологией.

Утопия искусственного Интеллекта

Как писатель, я обычно не использую ИИ намеренно. Тем не менее, работая над этой статьёй, я не смог удержаться и задал бесплатный вопрос ИИ от Google: «Каково утопическое видение ИИ?» Ответ пришёл через долю секунды:

«Утопическое видение ИИ предполагает будущее, в котором ИИ органично интегрируется в жизнь человека, повышая производительность, инновационность и общее благополучие. Это мир, в котором ИИ решает сложные проблемы, такие как изменение климата и болезни, и помогает человечеству достичь новых высот».

Первое предложение в ответе Google нуждается в редактировании, чтобы убрать словесную избыточность (vision, envisions), но ИИ действительно удалось составить полезное резюме о мечтах своих разработчиков.

То же самое в более развёрнутой форме изложено в статье «Видения утопии ИИ» Future Sight Echo, в которой сообщается, что ИИ смягчит последствия экономического неравенства, предоставляя ресурсы более эффективно и «динамично, с возможностью мгновенной адаптации к новой информации и обстоятельствам». Повышение эффективности также снизит воздействие человечества на окружающую среду за счёт минимизации энергопотребления и всевозможных отходов.

Но это только начало. Образование, творчество, здоровье и долголетие, перевод и понимание культурных особенностей, общение и забота, управление и юридическое представительство — всё это претерпит революционные изменения благодаря ИИ.

Существует множество доказательств того, что люди с деньгами разделяют эти надежды на ИИ. Самые популярные акции на Уолл-стрит (в частности, Nvidia) связаны с ИИ, как и многие корпорации, которые вносят значительный вклад в работу радиостанции NPR, которую я слушаю в Северной Калифорнии, тем самым получая право на рекламу в начале часа.

Капиталовложения в ИИ растут так стремительно (примерно 300 миллиардов долларов только в этом году в одних только США), что, если заявленный потенциал хотя бы наполовину реален, мы все можем быть уверены, что большинство человеческих проблем вскоре исчезнут.

Или они это сделают?

Апокалипсис Искусственного Интеллекта

Как ни странно, когда я впервые спросил ИИ Google: «Каково ваше видение ИИ-апокалипсиса?», он ответил: «Обзор ИИ недоступен для этого запроса». Возможно, я неправильно сформулировал свой вопрос. Или, может быть, ИИ почувствовал мою враждебность. Раскрытие информации: я публично призывал к немедленному запрету ИИ. 

(Позже «ИИ» стал более сговорчивым и предложил подробное описание «общих тем в видении апокалипсиса ИИ».) Я предлагаю запретить ИИ, потому что он даёт нам, людям, больше власти через язык и технологии, чем у нас уже есть, и что в совокупности у нас уже слишком много власти по отношению к остальной природе. 

Мы разрушаем экосистемы, добывая ресурсы и выбрасывая отходы, до такой степени, что, если нынешние тенденции сохранятся, дикая природа может исчезнуть к концу века. 

Кроме того, самые могущественные люди всё больше превосходят всех остальных как в экономическом, так и в военном плане. Более разумное использование нашей власти, вероятно, не поможет, потому что мы уже слишком умны для нашего же блага. Последнее, что нам следует делать, — это отделять язык от биологии, чтобы он мог существовать исключительно в смоделированной техно-вселенной.

Давайте будем конкретны. Что именно может пойти не так из-за ИИ? Для начала, ИИ может ухудшить и без того плохие вещи — как в природе, так и в обществе.

Существует множество способов, которыми человечество уже дестабилизирует планетарные экологические системы; чаще всего обсуждается изменение климата. Благодаря своему огромному спросу на энергию ИИ может ускорить изменение климата, генерируя больше выбросов углерода. 

По данным Международного энергетического агентства, «под воздействием использования ИИ экономика США в 2030 году будет потреблять больше электроэнергии для обработки данных, чем для производства всех энергоемких товаров вместе взятых, включая алюминий, сталь, цемент и химикаты». 

Мир также сталкивается с усугубляющейся нехваткой воды; ИИ нужно огромное ее количество. Природа уже содрогается от ускоряющихся темпов добычи и истощения ресурсов человечеством. ИИ требуются миллионы тонн меди, стали, цемента и другого сырья, и поставщики нацеливаются на земли коренных народов для новых шахт.

У нас уже сейчас достаточно социальных проблем, главной из которых является растущее экономическое неравенство. ИИ может увеличить разрыв между богатыми и бедными, заменив низкоквалифицированных работников машинами и значительно увеличив благосостояние тех, кто контролирует технологии. 

Многие люди обеспокоены тем, что корпорации получили слишком большое политическое влияние; ИИ может ускорить эту тенденцию, сделав сбор и обработку огромных объёмов данных буквально обо всех дешевле и проще, а также способствуя консолидации монополий. 

Безработица всегда была проблемой в капиталистических обществах, но ИИ грозит быстро лишить работы миллионы «белых воротничков»: генеральный директор Anthropic Дарио Амодей прогнозирует, что ИИ может уничтожить половину «белых воротничков» начального уровня в течение пяти лет, в то время как Билл Гейтс прогнозирует, что только три сферы деятельности переживут ИИ— энергетика, биология и программирование систем ИИ.

Однако самые ужасающие прогнозы в отношении ИИ выходят за рамки простого усугубления плохих ситуаций. В недавнем выпуске The Bulwark Podcast под названием «Убьет ли Сэм Альтман и его ИИ всех нас?» прямо говорится о наихудшем сценарии. 

Но как именно ИИ может убить нас всех? Один из способов — автоматизировать принятие военных решений, делая оружие дешевле и смертоноснее (недавний комментарий Брукингского института назывался «Как бесконтрольный ИИ может спровоцировать ядерную войну»). 

Некоторые философы, склонные к антиутопической научной фантастике, считают, что технология, став значительно умнее людей, может начать воспринимать биологических людей как бессмысленную трату ресурсов, которые машины могли бы использовать более эффективно. В этот момент ИИ может пойти по нескольким путям, чтобы уничтожить человечество.

Реальность искусственного Интеллекта

Я не знаю подробностей того, как ИИ будет развиваться в ближайшие месяцы и годы. Но то же самое можно сказать и о лидерах индустрии ИИ.

Они, безусловно, понимают эту технологию лучше, чем я, но их прогнозы по ИИ могут не учитывать важный фактор. 

Видите ли, я годами приучал себя искать ограничения в ресурсах, энергии, материалах и социальных системах. Большинство людей, работающих в сфере финансов и технологий, склонны игнорировать ограничения или даже верить, что их нет. 

Это приводит их к абсурдным выводам, таким как ожидание Илоном Маском колонизации Марса. Земля конечна, люди будут ограничены в передвижении по этой планете навсегда, и поэтому многие вещи, которые мы можем себе представить, просто не произойдут. Я бы сказал, что в дискуссиях о перспективах и опасностях ИИ не хватает осознания ограничений.

Арвинд Нараянан и Саяш Капур в эссе под названием «ИИ — это обычная технология» отчасти разделяют это мнение. Они утверждают, что развитие ИИ будет ограничено скоростью организационных и институциональных изменений в обществе, а также «жёсткими ограничениями скорости получения знаний из-за социальных издержек, связанных с экспериментами». 

Однако авторы не считают, что из-за этих ограничений ИИ окажет лишь незначительное влияние на общество; они видят в нём усилитель системных рисков.

Помимо социальных ограничений, о которых говорят Нараянан и Капур, будут также (как упоминалось выше) экологические ограничения, связанные с энергией, водой и материалами, необходимыми для ИИ. Эта тема обсуждалась на недавней конференции.

Наконец, существует важнейшее ограничение для развития ИИ, заложенное в самой технологии. Большим языковым моделям требуется огромное количество высококачественных данных. Однако по мере того, как всё больше специалистов по работе с информацией заменяются ИИ или начинают использовать ИИ для создания контента (обе тенденции ускоряются), всё больше данных, доступных ИИ, будут генерироваться ИИ, а не опытными исследователями, которые постоянно сверяют их с реальным миром. 

Это означает, что ИИ может попасть в ловушку цикла снижения качества информации. Технические специалисты называют это «крахом моделей ИИ», и не существует реалистичного плана, как это остановить. ИИ сам себе не может помочь.

В своей статье «Некоторые признаки краха модели ИИ начинают проявляться» Стивен Дж. Воган-Николс утверждает, что это уже происходит. Широко известны случаи, когда ИИ непреднамеренно создавал фальшивые научные документы. Недавно Chicago Sun-Times опубликовала статью «Лучшее за лето», в которой были упомянуты не существующие в природе романы. 

А широко разрекламированный доклад администрации Трампа «Сделаем Америку снова здоровой» включал в себя ссылки (очевидно, сгенерированные ИИ) на несуществующие исследования. Большинство из нас привыкли к тому, что в новых технологиях будут возникать ошибки, которые инженеры постепенно устранят или обойдут, что приведёт к повышению производительности. С ИИ ошибки и проблемы с галлюцинациями могут только усугубиться.

Точно так же, как существуют пределы для утопии, основанной на ископаемом топливе, ядерной утопии и утопии капитализма с бесконечным ростом, существуют пределы и для утопии, основанной на искусственном интеллекте. Точно так же пределы могут помешать ИИ стать всемогущим жнецом смерти.

Каким будет настоящее будущее ИИ? Вот общий прогноз (подробности в настоящее время недоступны из-за того, что я не смог обновить операционную систему своего хрустального шара). В течение следующих нескольких лет корпорации и правительства будут продолжать активно инвестировать в ИИ, руководствуясь его способностью сокращать затраты на рабочую силу. 

Мы станем системно зависимы от этой технологии. ИИ изменит общество — занятость, повседневную жизнь, производство знаний, образование и распределение богатства. Затем, ускоряясь по мере развития, ИИ превратится в галлюцинирующую, визгливую какофонию маленьких голосов, изрыгающих бессмыслицу. 

В результате пострадают реальные компании, учреждения и домохозяйства. Затем мы либо научимся жить без ИИ, либо ограничим его относительно узким кругом задач и наборов данных. Америка недавно получила небольшое представление об этом будущем, когда DOGE под руководством Маска уволила десятки тысяч федеральных служащих, рассчитывая заменить многих из них искусственным интеллектом — не зная, сможет ли ИИ выполнять их работу (упс: тысячи сотрудников вернулись на работу).

Беспорядочное будущее, в котором нет ни того, ни другого, — это не то, чего вы ожидаете, если тратите время на чтение таких документов, как «ИИ 2027» — подробное умозрительное повествование пяти инсайдеров отрасли о неизбежном будущем ИИ, которое позволяет читателям выбрать концовку истории. 

Вариант А, «замедление», ведёт к будущему, в котором ИИ будет всего лишь послушным, сверхкомпетентным помощником; в то время как в варианте Б, «гонка», человечество будет уничтожено биологическим оружием, созданным ИИ, потому что люди занимают землю, которую можно было бы лучше использовать для размещения дополнительных центров обработки данных. И снова мы видим устойчивый стереотип «утопия или апокалипсис», представленный здесь с впечатляющей (хотя и вводящей в заблуждение) конкретикой.

В начале этой статьи я объяснил дискурс об утопии/апокалипсисе ИИ глубоко укоренившимся тиком в нашем коллективном человеческом бессознательном. Но, вероятно, здесь есть нечто большее. В своей недавней книге «Империя ИИ» технический журналист Карен Хао прослеживает поляризованные взгляды на ИИ, восходящие к основанию OpenAI Сэмом Альтманом и Илоном Маском. 

Оба были мечтателями и пессимистами. Их неизменная позиция: мы (то есть Альтман, Маск и их коллеги) — единственные, кому можно доверить процесс разработки ИИ, включая его регулирование, потому что мы единственные, кто разбирается в этой технологии. Хао отмечает, что сообщения как о перспективах, так и о рисках, связанных с ИИ, часто создаются влиятельными людьми, стремящимися укрепить свой контроль над индустрией ИИ.

Утопия и апокалипсис занимают видное место в риторике всех культов. Поэтому неудивительно, но всё же немного неожиданно услышать от Хао в подкасте, что ИИ — это секта (если он ходит, крякает и плавает, как культ…). И мы все в этом замешаны.

Итак, как же нам думать об ИИ, не впадая в культ? В своей статье «Нам нужно перестать притворяться, что ИИ разумен» Гийом Тьерри, профессор когнитивной нейробиологии, пишет: «Мы должны перестать наделять ИИ человеческими чертами». Машины, даже на первый взгляд умные, не являются людьми — точка. Если относиться к ним как к людям, это приведёт к дегуманизации реальных людей из плоти и крови.

Крах цивилизации не будет вызван искусственным интеллектом. Это связано с тем, что социально-экологический упадок уже происходил без какой-либо помощи со стороны больших языковых моделей. ИИ просто добавляет новый фактор в более масштабное столкновение человечества с ограничениями. 

В краткосрочной перспективе эта технология будет способствовать дальнейшей концентрации богатства. «Подобно древним империям, — пишет Карен Хао, — новые империи ИИ накапливают несметные богатства в пространстве и времени за счёт всех остальных». В долгосрочной перспективе ИИ будет быстрее истощать ограниченные ресурсы.

Если ИИ вряд ли станет причиной разрушения, то он так же вряд ли создаст рай на Земле. На прошлой неделе я получил письмо от подруги-писательницы, которая использовала ИИ для улучшения своей книги.

На следующий день я пошёл к врачу на осмотр, и он использовал ИИ для изучения моих жизненных показателей и симптомов; в результате я, возможно, стал лучше следить за своим здоровьем. В тот же день я прочитал только что опубликованную исследовательскую работу Apple, в которой делается вывод, что LLM не могут надёжно рассуждать.

 Очевидно, что ИИ может принести ощутимую пользу в некоторы сферах человеческой деятельности. Но мы обманываем себя, если предполагаем, что ИИ может думать за нас. Если мы не можем построить справедливое, устойчивое общество самостоятельно, бессмысленно надеяться, что машина, которая не может мыслить здраво, сделает это за нас.

В настоящее время я не работаю и поэтому могу позволить себе оставаться в стороне и осуждать ИИ. Для многих других экономическое выживание зависит от внедрения новых технологий. 

Поиск личного компромисса с новыми инструментами, которые могут иметь опасные и разрушительные побочные эффекты для общества, в чём-то аналогичен поиску разумного и жизнеспособного ежедневного пути в стране, поддающейся авторитарному правлению. 

Мы все хотим избежать соучастия в ужасных последствиях, но никто не хочет стать мишенью или лишиться возможностей. Риторическая связь между ИИ и диктаторской властью имеет смысл: одно из наиболее вероятных применений новой технологии — массовая слежка.

Возможно, лучший совет для людей, обеспокоенных ИИ, будет аналогичен советам, которые дают сторонники демократии людям, переживающим из-за разрушения социально-государственных структур, которые долгое время поддерживали свободы и права американцев: определите, что вас волнует, на что вы можете повлиять и что можете контролировать; тщательно изучайте источники информации и оказывайте реальную поддержку тем, кто наиболее точен, смел и наименее предвзят; налаживайте связи с реальными людьми.

ИИ, кажется, открывает совершенно новые возможности и создаёт новые угрозы. Но, по сути, многое из того, что было верно до появления ИИ, остаётся верным и сейчас. Человеческая жадность и стремление к большему контролю над природой и другими людьми могут привести к краткосрочной выгоде. Но если вы хотите хорошей жизни, когда всё будет сказано и сделано, научитесь жить в рамках. Живите честно, скромно и великодушно. ИИ не может вам в этом помочь.

Изображение тизера: фото Игоря Омилева на Unsplash

Источник