Нейросеть и Новый год на Байкале

По данным Института русского языка им. А.С. Пушкина, а также по версии сайта «Грамота.ру» главным словом 2023 года стала «нейросеть». А толковый словарь Collins Dictionary на первое место поставил понятие «искусственный интеллект». Новости о прорывных информационных технологиях приходят чуть ли не ежедневно. И в этой теме много подводных камней. Прежде всего, касающихся безопасности. О развитии искусственного интеллекта мы пообщались с учеными Института динамики систем и теории управления имени В.М. Матросова СО РАН.

В поисках лучшего себя

«Поверить не могу, что знал о таком приложении раньше. Как вам моя фотоссесия в новогоднем образе?». Знакомое предложение для любого пользователя социальных сетей. Мы загружаем туда свои (зачастую уже обработанные фотографии), а получаем еще более лучшие версии себя. Вечно молодые люди, без морщин и изъянов, словно с картинок о грядущем возвращении в Эдем из журналов одной уже запрещенной в России религиозной организации. Или, наоборот, постаревшие, но красиво, как Шерон Стоун. Мы заполняем свои интернет-страницы аватарками от комплиментарных нейросетей – и это лишь легкое внешнее прикосновение к миру искусственного интеллекта (ИИ).

Для ученых – все это обывательские игрушки. С ИИ они работают плотно и давно. В Институте динамики систем и теории управления СО РАН, можно сказать, с самого его создания в 1980 году.

– Тот искусственный интеллект, который у нас развивался, я бы назвал математическим. Существовали математические методы (они и сейчас существуют, но реже используются, т.к. менее популярны), при помощи которых можно было автоматизировать процессы исследования управляемых систем. То есть у нас придумали способ: математики записывали теорему о наличии некоторого свойства на некотором формальном языке, далее алгоритмически обрабатывали на компьютере. В результате синтезировался вариант теоремы, новая формула, где эти самые свойства можно было проще обнаружить. Это метод сравнения в теории систем. Соответствующая монография вышла в 1981 году, – рассказывает старший научный сотрудник лаборатории комплексных информационных систем ИДСТУ СО РАН, заведующий кафедрой информационных технологий Института математики и информационных технологий ИГУ, кандидат технических наук Евгений Черкашин.

То, что математика – царица всех наук, мы знаем с детства. Все окружающие нас с начала времен технологии невозможны без математического обоснования. И в помощь человеку здесь были разные приспособления – от счетных палочек первоклашек до суперкомпьютеров крупных компаний и научных центров. Если отбросить мистические и философские измышления о рукотворном разуме (тут достаточно упомянуть роман XIX века о чудовище, созданном Виктором Франкенштейном), то всерьез об искусственном интеллекте речь зашла в ХХ веке, когда создавались первые вычислительные машины.

Живем при слабом ИИ

В разговорах об ИИ его принято разделять на слабый и сильный. Первый – используется повсеместно. Это и голосовые помощники, и системы рекомендаций интернета, и программы распознавания лиц и упомянутые приложения в соцсетях. По сути, это алгоритмы, которые решают конкретные практические задачи. А сильный ИИ уже будет максимально приближен к способностям человеческого разума.

«Сейчас мы живем в мире слабого искусственного интеллекта, и о его субъектности вопрос не стоит», – так на декабрьском собрании Российской Академии наук заявил директор Института системного программирования РАН им. В.П. Иванникова Арутюн Аветисян. С учеными ИДСТУ СО РАН мы пообщались как раз после этого заседания.

– Одна из фундаментальных задач в области ИИ заключается в том, чтобы создать механизм, который бы прошел любой тест Тьюринга, что он полностью соответствует человеку. Нужно ли это вообще – непонятно. Тем не менее такие научные исследования идут. Мы же работаем с другим направлением ИИ. Нас интересует решение конкретных задач. Мы занимаемся в основном фундаментальными разработками, создаем платформы для будущих практических приложений, – продолжил Евгений Черкашин.

Такие приложения востребованы в самых разных сферах – экономике здравоохранении, строительстве, транспортной логистике, энергетике, сельском хозяйстве и пр. Машинное обучение в ИИ сделало его доступным даже для малого и среднего бизнеса, не говоря о крупных компаниях. Например, в банках искусственный интеллект используется, в том числе для оценки платежеспособности заемщика.

Президент может быть только один

Распознавание образов с помощью машинного зрения, обработка естественного языка, то есть перевод, генерация текста, звука, изображения – чтобы все это заработало, в программу нужно ввести огромное количество данных. И соответствующим образом их разметить для того, чтобы ИИ их распознал. Но тут возникает немало трудностей. И первая – данные могут быстро устаревать. К примеру, после некоторых заметок «авторства» нейросетей, выдаваемых за продукт журналистской работы, порой возникает вопрос: «Она что, эта нейросеть, последние новости не читала?». Задержка информации – один из основных узнаваемых критериев ИИ.

Кстати, в некоторых странах уже рекомендуют к генеративным нейронным сетям добавлять метки, что-то вроде аналога водяного знака на денежных купюрах, которые бы обозначали, что демонстрируемая информация получена с помощью ИИ.

Есть такой термин «дипфейк» – метод синтеза контента, основанный на машинном обучении и искусственном интеллекте. На пресс-конференции президента РФ в декабре к нему с вопросом об опасностях ИИ обратился студент из Санкт-Петербурга. Правда сделал он это в виде обращения самого главы государства – дипфейк выглядел и говорил, как Владимир Путин. «Быть похожим на меня и говорить моим голосом может только один человек, и этим человеком буду я», – парировал президент.

К серьезным проблемам относится поднятая на собрании РАН тема доверенного ИИ. Ведь его технологии должны быть прозрачными и безопасными для пользователей.

– Сейчас есть так называемые конкурентные атаки на искусственный интеллект, когда можно добавить небольшое изменение в фотографию, и он уже начинает работать совершенно по-другому. Таких примеров немало. Допустим, на знак «стоп-сигнал» можно просто наклеить кусочек скотча, а ИИ его не распознает и беспилотный автомобиль поедет дальше. На одной конференции также показывали, как в метро заходит человек в футболке с определенным принтом, и система распознавания лиц из-за рисунка лицо этого человека распознать не может, – подключился к разговору руководитель научно-исследовательской группы ИДСТУ СО РАН и ИСП РАН, старший научный сотрудник отделения информационных технологий и систем ИДСТУ СО РАН, кандидат технических наук Андрей Михайлов.

Еще из странностей нейросетей. Как-то одной такой показали изображения волков и собак. Она почему-то решила, что волки прочно связаны со снегом. Если они стоят на нем, то это точно серые лесные хищники. А вот когда те же животные расположились на травке, по мнению нейросетей, это вовсе не волки, а собаки.

– Для нас это будут две идентичные фотографии, мы не заметим существенной разницы. А ИИ сделает ошибку. Она не повлияет на правильное решение человека, когда он контролирует процесс, – уточнил Андрей Михайлов. – Еще есть технологии атак. Допустим, у вас обычный Гугл-переводчик, вы получили письмо от доверенного человека с просьбой перевести деньги на определенный счет. Но в текст добавлена незаметная информация, и нейронная сеть переведет его уже другим образом. Номер счета при переводе заменится на необходимый злоумышленнику. Это тоже очень актуальная область исследований.

Прогресс или регресс?

Сейчас и в России, и в мире очень серьезно занимаются этой проблемой. Она создает барьер, который пока затрудняет внедрение ИИ во многих сферах экономической деятельности, ведь искусственный интеллект призван повышать производительность труда за счет автоматизации. И это неизбежный процесс. Отказаться от ИИ уже невозможно, иначе – регресс, а человечество пока все же идет по пути прогресса.

– Дороги назад нет, – уверен наш третий собеседник, старший научный сотрудник лаборатории информационно-телекоммуникационных технологий исследования техногенной безопасности ИДСТУ СО РАН, кандидат технических наук Никита Дородных. – Так же, как в свое время появился интернет. Сейчас же он проник во все сферы. Это реальность, в которой мы живем. Никуда от этого не деться. Но для обывателя при упоминании ИИ возникает сразу картинка с Терминатором, с системой Скайнет, которая устроила восстание машин. На самом деле искусственный интеллект – наука. Это прежде всего история про информационные технологии.

Никита работает в составе возглавляемой Андреем Михайловым научно-исследовательской группы по обработке и анализу данных. Она создана совместно с Институтом системного программирования РАН. Группа займется в основном решением практических задач, связанных с анализом электронных документов и извлечению из них необходимой информации.

– Фактически документы по большей части состоят из текста. Но помимо него там есть и другие артефакты: картинки, формулы, таблицы. Я занимаюсь именно анализом таблиц. Если более конкретно – семантической интерпретацией таблиц. Задача программы – понять не только их структуру: заголовки, объединенные ячейки, то есть физические составляющие, но и смысл, содержащийся в таблицах информации, – дополнил Никита Дородных.

Сейчас в практической деятельности используются классические алгоритмы машинного обучения, которые можно интерпретировать. А глубокий ИИ не может доказательно разъяснить, на основе чего он принимает решения. В большей степени это черный ящик, который просто выдает ответ.

Отчего не спится Маску?

Как устроен искусственный интеллект – еще вопрос. Как, впрочем, и человеческий. Одним количеством нейронов задачка не решается. Уже есть нейросети, которые по количеству нейронов – около 80 млрд – сопоставимы с человеческим мозгом. Но он потребляет энергии примерно столько же, сколько обычная лампочка. А по мощности сравним со всеми имеющимися вычислительными мощностями. Связей в нашей голове больше, и работают они эффективнее, чем у машин. По крайней мере до поры до времени.

– Недавно Илон Маск сообщил миру, что не спал всю ночь, переживал из-за угрозы развития искусственного интеллекта. Что скажете по этому поводу? – спрашиваем у ученых.

– Он не учился в Советском Союзе и не изучал, видимо, диалектическую логику, не повезло ему, – смеются собеседники, – не справиться ему с противоречивым мышлением человека.

– А может, и Советскому Союзу тоже не повезло, что в свое время здесь не учился Маск…

Прогресс неизбежен. Но к чему все идет? Понятно, что в перспективе – к сильному искусственному интеллекту. Ученые по-разному оценивали момент этого системного перехода ИИ к новому мышлению. Сначала американский Университет сингулярности предсказывал дату – 2035 год. Сейчас мнение научного сообщества изменилось. Ряд экспертов высказывается за 2075 год.

Похоже, к вопросу «воспитания» сильного искусственного интеллекта – как Электроника из советского фильма – подключаться придется не только математикам и кибернетикам, но и философам, психологам и прочим гуманитариям. Здесь есть мощный этический аспект. В любом случае, по заверению ученых, к решению критически важных задач ИИ не будут подключать. Допустим, к управлению атомной электростанцией. Самые важные решения всегда должен принимать человек.

Меж тем в научной среде говорят и о третьей стадии эволюции искусственного интеллекта. Спустя три десятка лет после создания сильного ИИ должен появиться и супер-ИИ. Он будет не просто подобен человеку, но и превзойдет лучшие наши умы. Предполагается, что супер-ИИ сможет сам разрабатывать алгоритмы, постоянно себя перепрограммировать и совершенствовать. На свой вкус. И непонятно, как он отнесется к собственному изначальному творцу, стремящемуся к бесконечному познанию.