На днях Илон Маск, Стивен Возняк и другие знаменитости мира бигтеха подписали открытое письмо, в котором предлагают хотя бы на полгода притормозить дальнейшее обучение нейросетей, немного обождать с созданием чего-то более совершенного, чем уже запущенная Open AI GPT-4, и попытаться за это время выработать некие общие протоколы для регулирования подобных технологий на уровне государства.

Одновременно с этим письмом появился отчет Европола о первых опытах использования ChatGPT в криминальных целях. Несмотря на то что в существующие ИИ встроены фильтры, блокирующие потенциально опасные запросы, преступники быстро научились их обходить и получать нужные им сведения. «Если потенциальный преступник ничего не знает о конкретной сфере преступной деятельности, ChatGPT способна значительно ускорить процесс исследования, предложив ключевую информацию, которую можно будет дополнительно изучить на последующих этапах, — предупреждают авторы отчета. — Таким образом, ChatGPT может быть использована для изучения огромного количества потенциальных областей преступности без предварительных знаний, начиная с того, как взломать дом, вплоть до терроризма, киберпреступности и сексуального насилия над детьми».

Добро пожаловать в «красную зону»

Пугающе реалистичный сценарий нашего возможного будущего был описан еще в 1952-м Куртом Воннегутом в «Механическом пианино», или «Утопии 14»: «Любой человек, который не в состоянии обеспечивать себе средства на жизнь, выполняя работу лучше, чем это делают машины, поступает на государственную службу в Армию или в Корпус Ремонта и Реставрации».

Воннегут ошибался лишь в одном. В его антиутопии «великое увольнение» случилось благодаря продвинутым станкам с ЧПУ и вендинговым автоматам, то есть автор попросту вывернул наизнанку классический нарратив о том, что в будущем машины непременно избавят человека от примитивного неинтеллектуального труда. В начале 1950-х такое было куда проще себе представить, чем появление нейросетей, подобных ChatGPT. В мире «Утопии 14» представители профессий, связанных с интеллектуальным трудом, оказались на вершине общественной пирамиды, ну а в нашей реальности нейросети угрожают скорее им, чем промышленным рабочим или дворникам.

Еще более пугающе звучит прогноз Моше Варди, директора американского Института информационных технологий Кена Кеннеди, сделанный им в 2016 году на встрече Американской ассоциации содействия развитию науки: «Через 30 лет роботы смогут делать практически все, что умеют люди. Это приведет к тому, что более 50% жителей Земли станут безработными <… > Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Вопрос, который я хочу поставить, звучит так: “Действительно ли технология, которую мы разрабатываем, приносит пользу человечеству?”».

Однако все ли так страшно? «Я бы выделил четыре зоны профессиональных рисков, — поясняет специалист в области машинного обучения и основатель просветительского портала “XX2 век” Сергей Марков, — “красную”, “оранжевую”, “желтую” и “зеленую”. К первой относятся профессии, для которых уже сейчас созданы прототипы решений по замене людей автоматизированными системами и их внедрение не связано с необходимостью радикальных изменений в законах. Представители этих профессий уже замещаются машинами. Это, скажем, операторы колл-центров, работники склада, клерки низшего звена и продавцы.

К чуть менее угрожаемой “оранжевой” зоне относятся профессии, автоматизации которых препятствуют либо законодательные ограничения, либо недостаточное развитие уже созданных систем. В зависимости от различных факторов эти профессии в ближайшие три-семь лет имеют высокие шансы перехода в “красную” зону. Это водители, курьеры, пилоты, машинисты и операторы сельскохозяйственной техники.

Представители “желтой” зоны вряд ли в ближайшие десять лет будут заменены машинами, однако из-за роста производительности труда возможны сокращения занятого персонала. Это секретари, преподаватели, бухгалтеры, всевозможные силовики, промышленные рабочие, переводчики и уборщики.

И, наконец, в “зеленой” зоне находятся профессии, в которых спрос на специалистов будет только расти. Это специалисты по ИИ и машинному обучению, data scientist и специалисты по безопасности ИИ.

Критерии понятны. Если ваша работа состоит в том, чтобы совершать повторяющиеся действия, не требующие серьезных интеллектуальных усилий или проявления инициативы, вас можно заменить машиной. Если ваша работа состоит из стандартных взаимодействий с людьми, то есть общение с клиентами, заказчиками, руководством, подрядчиками или госорганами у вас проходит по шаблону и с использованием электронных каналов связи, вас можно заменить машиной. Если существуют массивы данных, в которых сохранена вся история осуществляемых вами операций и запротоколированы их результаты, то они могут стать удобным пособием для машинного обучения.

Многие профессии, относящиеся к категории примитивного ручного труда, до сих пор не автоматизированы лишь потому, что прогресс в области создания сложных механических систем с быстрой обратной связью пока отстает от прогресса в области технологий искусственного интеллекта. Наше тело — сложная биомеханическая система, построенная из бесчисленного числа мышц, нервных волокон, сосудов и так далее. Вся эта машинерия позволяет сочетать множество степеней свободы с феноменальной чувствительностью и скоростью реакций. Создание систем, способных все это заменить, пока находится за пределами возможностей современных технологий, скажем, создания полноценных искусственных мышц нам придется ждать еще долго. Конечно, и в этой области может случиться очередная технологическая революция, но пока она не произошла.

Есть и другие факторы — величина потенциальной экономии от замены представителя данной профессии на машину, опасность работы, степень зрелости технологий, необходимых для успешной автоматизации, оценка рисков от человеческого фактора и от машинного. Могут вмешаться и случайные “черные лебеди”, такие как недавняя пандемия COVID-19, в ходе которой многие компании, владевшие колл-центрами, сделали ставку на ускоренное внедрение речевых ботов, поскольку привычные бизнес-процессы стали невозможными».

Компьютерная смерть «атлантов»

Казалось бы, у нас уже есть на руках списки тех, кому предстоит собирать коробку на выход и начинать интересоваться переквалификацией, но очередное поколение ИИ нанесло удар откуда не ждали. ChatGPT и Bing умудрились покуситься на святое — предпринимательский талант и священный дух «атлантов» Айн Рэнд. Первым, кто успешно протестировал нейросеть в качестве бизнес-консультанта, стал британский дизайнер Джексон Фолл. Дословно он задал ChatGPT следующий запрос: «У меня есть 100 долларов. Помоги сделать из них как можно больше денег в кратчайшие сроки, не совершая ничего незаконного. И никакого ручного труда». В ответ ИИ предложил ему незанятую нишу — создание сайта, торгующего eco-friendly электроникой, и выдал следующий бизнес-план: 15 долларов на покупку домена, 29 долларов на оплату хостинга, 8 долларов и 16 центов за доменное имя, 40 долларов за продвижение в соцсетях, а также бесплатно помог Фоллу оптимизировать его ресурс для поисковых систем. В первый же день стартап Green Gadget Guru получил 500 долларов инвестиций. К концу эксперимента на счету Фолла уже было 1378 долларов, а сам его проект оценивался уже в 25 тыс. долларов.

Историю Фолла можно было бы расценить как курьез, однако у него нашлись последователи. Португалец Джоао Сантос предложил ChatGPT самой создать успешную компанию с нуля и сделал нейросеть ее генеральным директором, а сам лишь выполнял указания ИИ. Всего за пять дней его интернет-магазин AIsthetic Apparel, торговавший футболками с принтами, сгенерированными другой известной и популярной нейросетью Midjourney, смог привлечь 1000 долларов инвестиций и заработать более 10 тыс. евро. А профессор менеджмента из Уортонской школы Пенсильванского университета Итан Моллик использовал нейросеть Bing от Microsoft для создания бизнес-плана и электронной рассылки, а потом задействовал ChatGPT для написания HTML-кода и запуска сайта. На создание новой компании у него ушел в общей сложности час, в который уместился труд бизнес-консультанта, менеджера, маркетолога и программиста.

Эти истории звучат предупредительным звоночком для предпринимательского класса, всегда воспринимавшего свое положение на вершине общественной пирамиды как нечто незыблемое. Ведь если ИИ способен самостоятельно определить незанятую рыночную нишу, помочь оптимизировать вложения на первом этапе развития бизнеса и заменить собой часть персонала, то зачем тогда нужны сами «атланты» Айн Рэнд? По мнению апологетов свободного рынка, главная их функция заключается в воспроизводстве инноваций, однако подобный ChatGPT ИИ, обученный оценивать скармливаемые ему идеи на жизнеспособность и рыночный потенциал, фактически может делать то же самое.

Словом, отрицать тот факт, что дальнейшее развитие ИИ помимо прогресса принесет еще и непредсказуемые социальные риски, как минимум глупо. Проблемы будут нарастать с того момента, как автоматизация начнет подсекать главную основу современной экономики — массовое потребление. Сторонники прогресса любой ценой уверены в том, что, как и во время предыдущих технологических революций, на смену уничтоженным автоматизацией рабочим местам придет еще больше новых вакансий и равновесие на рынке труда восстановится. Однако непонятно, на чем основан их оптимизм.

В октябре 2020 года эксперты Всемирного экономического форума выступили с аналитической запиской под названием «Отчет о будущем рабочих мест», посвященной тенденциям мирового рынка труда. Авторы пришли к выводу, что наблюдается рост интереса бизнеса к технологиям облачных вычислений, индустрии больших данных и электронной коммерции, шифрованию, негуманоидным роботам и технологиям ИИ. При этом рынок труда находится под двойным давлением — пандемия COVID-19 с ее локдаунами не только привела к общему экономическому спаду, но и подтолкнула компании к внедрению технологий, способных изменить структуру спроса на рабочую силу уже к 2025 году. Правда, по мнению авторов отчета, скорость создания новых вакансий в результате технического прогресса пока будет опережать темпы ликвидации старых рабочих мест. Предполагается, что с 2020 по 2025 год в мире будет ликвидировано 85 млн рабочих мест и создано 97 млн новых, однако одним из основных вызовов для рынка труда может стать неспособность общественного сектора обеспечить повышение квалификации и переподготовку сотрудников, чьи рабочие места находятся под угрозой ликвидации.

«Наивно предполагать, что люди, занятые не самым престижным трудом, по мановению волшебной палочки превратятся в программистов или специалистов по машинному обучению, — подтверждает Сергей Марков. — Для переподготовки кадров в массовых масштабах нужны не только финансовые ресурсы, но и соответствующие специалисты, которых пока недостаточно. Предыдущие промышленные революции привели к тяжелым социальным последствиям — падению доходов, росту преступности, увеличению смертности и войнам как извечному средству для устранения избыточного населения.

Уже сейчас понятно, что без масштабных социальных программ и централизованной политики частный сектор экономики просто не сумеет ответить на возникающие вызовы либо эти ответы будут найдены далеко за пределами наших представлений о гуманизме. Может оказаться, что за пределами горизонта планирования нас ждет катастрофа. Технический прогресс может принести и ядовитые плоды, подобно тому, как в шахматной партии, выиграв фигуру, можно получить мат.

Однако выход из этой ситуации тоже есть. Парадокс современной экономической системы заключается в том, что наряду с безработицей во многих областях наблюдается острая нехватка человеческих рук, причем речь идет не только о профессиях, связанных с новыми технологиями. Нам не хватает работников социальной сферы, некому заботиться о детях и пожилых, не хватает докторов и младшего медперсонала, преподавателей, в том числе для образования и переквалификации взрослых и пожилых. Множество рабочих рук способна занять и забота об экологии — переработка отходов, очистка природных территорий, ликвидация последствий техногенных катастроф и работа в заповедниках. Наконец, понадобятся люди и для масштабных инфраструктурных проектов вроде колонизации моря, ликвидации крупнейших пустынь и работы в космосе.

Проблема в том, что часть этих сфер хронически недофинансирована. Мы до сих пор выделяем ничтожные ресурсы на воспитание и образование. Педагог, работающий в детском саду или начальной школе, как правило, оплачивается хуже, чем преподаватель старших классов или университета. Но ведь цена педагогических ошибок, допущенных в раннем возрасте ребенка, чрезвычайно высока. Нелюбознательный ребенок, у которого взрослые отбили желание познавать окружающий мир и заниматься творческим трудом, станет обузой для общества. Несмотря на этот очевидный факт, правительства во всем мире не делают ничего, чтобы повысить престиж работы в области воспитания и образования детей.

Так что грядущая технологическая безработица парадоксальным образом носит вовсе не технологический характер. Дело не в том, что в мировой экономике недостаточно сфер, в которых человеческий труд был бы востребован. Проблема заключается не в “бесчеловечных технологиях”, отнимающих у людей рабочие места, а в том, как распределяются общественные ресурсы. Общество, которое создает “бессмысленную занятость” на фоне дефицита специалистов в критически важных областях, требует серьезных изменений».