search Поиск Вход
, 5 мин. на чтение

«В ближайшие пару лет нас ждет вал дипфейков» — эксперт «Яндекса» по ИИ Александр Крайнов

, 5 мин. на чтение
«В ближайшие пару лет нас ждет вал дипфейков» — эксперт «Яндекса» по ИИ Александр Крайнов

Директор по развитию технологий искусственного интеллекта «Яндекса» Александр Крайнов — один из участников Фестиваля науки и технологий Geek Picnic, который пройдет 21 августа на Москве-реке. Он рассказал «Москвич Mag» о том, как искусственный интеллект изменит жизнь человечества в ближайшем будущем, почему для москвичей поход в магазин скоро станет экзотикой, развеял миф о мировой войне роботов против человечества и предупредил о волне дипфейков.

Чем конкретно вы занимаетесь в «Яндексе»?

Экспериментами с искусственным интеллектом, которые, возможно, пойдут потом в продакшн, а может, и не пойдут. Например, «Алиса», которая рисует картины, делалась у нас в лаборатории. Ей можно сказать: «Алиса, нарисуй мне что-нибудь», и она нарисует, предложит шесть стилей, может и изменить фотографию. Демонстрационный сервис «Балабоба», который дописывает текст за автора, сделанный на основе созданной в «Яндексе» огромной нейросети YALM. Можно набрать в интернете «Балабоба», загрузить текст или фразу и прочитать продолжение. Эта разработка «Яндекса» — результат одного из главных мировых прорывов в области машинного интеллекта последнего десятилетия.

Что это за прорыв?

Текстовые модели, которые получили название «трансформеры». Модель — это некая готовая формула. В случае нейросетей, всех других методов машинного обучения параметры этой формулы подбираются не вручную, а автоматически, в результате умного перебора. Процесс такого подбора параметров называют обучением. Есть разные разновидности («архитектуры», как их называют) этих формул, они невероятно сложные, с огромным количеством параметров. В машинном обучении есть правило, что сложность модели (то есть количество параметров) должна соответствовать количеству данных для обучения. Чем сложнее модель, тем больше нужно данных. Относительно недавно нашли способ, как использовать сложные модели для анализа текста таким образом, чтобы у нас таких текстовых данных оказывалось сколько угодно много. Можно взять все тексты из интернета и учить модель угадывать пропущенное слово. Или угадывать следующее слово в тексте. Используя такие объемы данных, а также и развития алгоритмов, и аппаратных возможностей, современные нейронные сети совершили скачок в размерах до сотен миллиардов параметров, и это еще далеко не предел. В результате появились программы, которые, например, пишут тексты. Они могут дописывать тексты за автором, писать по нескольким первым словам — рецепты, книги, даже фрагменты программ. Впрочем, пока получаются только довольно короткие тексты, у программ пока не получается держать большой контекст.

Возможное применение технологий — делать из сложного и непонятного текста простой, своеобразную выжимку. В частности, такую сеть можно научить писать яркие и понятные заголовки.

Я уже сразу похоронила новостников, рекламщиков и эсэмэмщиков.

Не стоит их совсем хоронить. Это похоже на то, что произошло, когда стали доступны персональные компьютеры. Просто еще одно подспорье человеку. Вот когда-то люди писали пером, потом появилась ручка, печатная машинка и, наконец, компьютер и возможность редактировать текст. Сейчас появляется возможность использовать в работе творческих людей и обработку текста нейросетями. Они уже много где активно применяются. Возьмите тот же машинный перевод, который за последние годы сделал гигантский скачок и стал выдавать связные тексты. Поиск заметно продвинулся в понимании смысла запроса. А как продвинулась система персональных ассистентов…

«Алиса»? 

«Алиса» изначально способна поддерживать разговор на свободные темы. И сейчас она становится еще лучше благодаря технологиям нейросетей-трансформеров. Правда, пока новая технология используется только для ответа на небольшую часть вопросов, но это все будет быстро развиваться.

В каких еще сферах нашей жизни искусственный интеллект активно используется уже сейчас?

Транспорт, конечно. Вполне вероятно, что еще при нашей с вами жизни большинство транспорта станет беспилотным. Скоро все продукты будут доставляться прямо к двери, магазины превратятся просто в пункт выдачи, без товаров на полках. Конечно, какие-то супермаркеты останутся, но скорее как реклама новых товаров, а привычный поход в магазин станет развлечением.

Лично у меня большие ожидания от использования искусственного интеллекта в медицине. Как сейчас ставится диагноз? По ряду факторов (температура, анализы, давление, результаты обследования внутренних органов), в целом не больше двух десятков. Но в нашем организме существуют тысячи различных показателей, которые сейчас не учитываются, но не исключено, что часть из них помогла бы определить диагноз намного точнее. И которые вполне можно собрать при помощи тех же носимых устройств.

Это не значит, что врач станет не нужен, просто у него появится сильный искусственный помощник, который проанализирует огромный массив исходных данных. Но окончательный диагноз в ближайшие годы будет ставить человек. Я не уверен, что вообще какие-то профессии исчезнут. Сократятся — да. Ну и все будет происходить очень постепенно. Например, станут меньше идти учиться на бухгалтеров или продавцов и больше — на биоинженеров.

Вообще есть устойчивая тенденция, что полученные нами однажды знания в течение жизни будут терять актуальность, и нам придется учиться всю жизнь. Мир вокруг нас будет меняться быстро.

В каких областях искусственный интеллект может быть опасен? 

Опасен не искусственный интеллект, а его применение. Взять хотя бы любые системы мониторинга, у нас везде уже висят камеры, есть системы распознавания лиц. С одной стороны, это усиливает безопасность граждан, с другой — каждый оказывается под тотальным контролем. В Китае уже создан социальный рейтинг, куда записаны все действия человека, свидетельствующие, насколько он честный и благонадежный, и в зависимости от этого можно прогнозировать, как он поступит. На основании этих прогнозов ему могут, например, отказать в кредите или еще в чем-то. Вот это очень опасно. То есть, с одной стороны, использование машинного интеллекта дает огромные возможности обществу, а с другой — ошибка этой системы значит, что невиновный человек может стать каким-то изгоем. Такое нельзя допускать. Понятно, что в военных целях использование искусственного интеллекта опасно. И не потому, что машина выйдет из-под контроля, скорее уж человек выйдет из-под контроля. Просто потому, что это ведет к развитию более совершенного оружия, которого на Земле и так многовато.

Дорого ли стоит создание самообучающихся нейросетей и что произойдет, когда эти программы станут финансово доступны многим?

С одной стороны, обучение нейросети с таким же качеством становится все дешевле, но с другой — требования к качеству постоянно растут, а это влияет на цену в геометрической прогрессии. Например, обучение нейросетей, которые могут писать текст, обходится в миллионы долларов.

Стоит ли бояться маньяков, создающих опасные для людей нейросети?

Это маловероятно. Я больше опасаюсь спама с использованием нейросетей или дипфейков (методика синтеза изображения, основанная на искусственном интеллекте. Она используется для соединения и наложения существующих изображений и видео на исходные изображения или видеоролики. — Прим. автора). Уже есть программы, которые подражают голосу, и их нельзя отличить от настоящих. Пока это не очень распространено, но через год-два это будет распространенный сценарий. Пока не понятно, как с этим бороться.

В «Яндексе» вы используете искусственный интеллект, чтобы понять, например, что за человек пришел к вам наниматься на работу? Анализируете его деятельность по соцсетям или поисковикам?

Нет. Надо понимать важный момент: если знания есть в какой-то нашей программе (например, по итогам запросов конкретного человека в «Яндексе» показывается соответствующая реклама), это не значит, что эти знания есть у авторов этой программы или эти знания могут быть использованы для каких-либо внутренних нужд. Категорически нет!

И последнее. А что будет с теми, кто не впишется в дивный новый мир искусственного интеллекта? 

Светлое будущее настанет для всех, потому что все эти перемены будут происходить совершенно плавно, так что все поспеют. Жизнь станет просто максимально удобной для человечества.

Фото: из личного архива Александра Крайнова