Оцифрованные смыслы

Мозг и компьютер

Наши предки упорно генерировали идею искусственного живого. Хотите пример на материале Красноярского края? В Канском краеведческом музее есть потрясающий деревянный экспонат конца XVIII — начала XIX вв. — фигура Николая Чудотворца в полный рост. Если потянуть его за кисти рук, то ступни приходят в движение, и фигура начинает двигаться!

Ещё пример, современный. В ноябре прошлого года в Красноярске произошло необычное ДТП, о котором рассказали почти все местные телеканалы. Иномарка сбила на проезжей части… робота («пострадавший» собирался участвовать в автоквесте). Ранее этот андроид, стоимостью около четверти миллиона рублей, засветился в школьном эксперименте с участием детей-инвалидов. Умная машина на уроки не опаздывала, отвечала на вопросы учителя, и дети вскоре стали воспринимать её как свою одноклассницу. С помощью киборга на занятиях в школе могли виртуально присутствовать ребята с ограниченными физическими возможностями. Так что образ Электроника отчасти уже имеет реальное, а не виртуальное воплощение.

«Пока что искусственные обучающиеся системы примитивны. Однако эта область науки очень быстро развивается, и через 20 лет роботы с искусственным сознанием обязательно появятся», — уверен кандидат физ.-мат. наук, специалист в области машинного обучения и искусственного интеллекта Сергей Александрович ШУМСКИЙ. В феврале на Днях науки в СФУ учёный выступил с лекцией на тему «Моделирование работы мозга. Состояние и перспективы». Старший научный сотрудник отделения квантовой радиофизики лаборатории сверхбыстродействующей оптоэлектроники и обработки информации Физического института им. П.Н. Лебедева РАН, автор более 70 научных публикаций, вице-президент Российской ассоциации нейроинформатики является к тому же соучредителем и руководителем ряда венчурных компаний в области высоких технологий.

— Рабочие ячейки коры содержат десятки тысяч нейронов, и мы можем моделировать кору как сплошную среду… — осторожно вводит в тему Сергей Александрович.

Я гуманитарий, об алгоритмах и методах статистической физики имею весьма смутное представление. Но, слушая учёного, начинаю понимать, что если знать закономерности работы отдельных участков человеческого мозга, то эти знания можно имплантировать в искусственную оболочку и обратить в свою пользу. Мышление — это электрическая активность, электромагнитные волны,
а их можно улавливать. У нас — живой мозг, у компьютера — искусственные нейронные сети.

— Сейчас искусственный интеллект, пожалуй, самая горячая область науки. Здесь и сейчас, на наших глазах, начинается очередной этап в развитии — когнитивная революция, — поясняет важность момента Шумский. — Скорее всего, в ближайшее время мы поймём, как устроен разум, и научимся использовать это в практических приложениях. Более того, уже появились компании, работающие с большими данными, которые невозможно обработать вручную. Возникла фактически новая инженерная отрасль больших данных: Google, Microsoft, Facebook, Amazon, IBM и другие. Но они, к сожалению, все на Западе. За исключением нашей Yandex, которая в этом смысле передовая. Задачи год от года всё сложнее, поэтому машины должны «умнеть», разбираться в том, в чём раньше разбирался только человек. Например, распознавать лица, почерк…

— И получается?

— Одно из последних достижений, появившихся буквально несколько месяцев назад, — искусственные нейронные сети, умеющие генерировать подписи под картинками, фотографиями.

Машина не просто понимает, что на картинке изображено, а ещё и объясняет своё понимание. Эта научная работа вышла из стен лаборатории Google и понятно, где будет использоваться.

Каков бюджет, таков сюжет

— Если раньше исследованиями в области искусственных нейронных сетей занимались небольшие группы учёных в лабораториях, то теперь — компании, у которых оборот десятки миллионов долларов, — подсчитывает Шумский. — В совокупности сотни миллионов долларов! Например, у Microsoft оборот 80 миллиардов. На научные исследования и разработки в прошлом году эта компания израсходовала более 11 млрд долларов, Google — более 9 млрд. В общей сложности на изучение больших данных обе компании потратили 20 млрд долларов. Для сравнения: это в разы больше, чем все государственные ассигнования на гражданскую науку в России.

Фактически в мире началась новая технологическая гонка вслед за ядерной и лунной — и это гонка за искусственным интеллектом. В неё включились лидеры компьютерной отрасли. Будет обидно, если мы не впишемся. Всякая большая работа требует сотен человеколет, а может и тысячи… Борьба за искусственный интеллект — это война не одиночек. На последний съезд членов общества по изучению мозга, проходивший в США, приехало 30 тысяч человек — это дивизии!

Когда речь идёт о создании нового технологического уклада, то должны быть вложены пропорционально финансы и человеческий труд. 30 миллионов статей на эту тему написаны! Понятно, что ни один человек не в силах прочитать даже тысячной доли, поэтому у каждого — только маленькая часть всей картины, один кусочек большого пазла. Сила учёных — в совместной работе. Нельзя допустить, чтобы в будущем нами манипулировали просто потому, что мы не понимаем, что в этой сфере происходит…

В тех же Штатах есть десятки университетов, где на мировом уровне готовят специалистов по большим данным, по машинному обучению. Их средняя зарплата в два раза больше, чем у обычного программиста, и они в большом дефиците. Если мы просто начнём такие кадры готовить, то они будут уезжать ТУДА, не находя у себя в стране аналогичной программы, компаний, где делается наука мирового уровня. Всё, что мы подготовим ЗДЕСЬ, будет использоваться ТАМ.

— Как предотвратить утечку мозгов?

— Прежде всего, сделать так, чтобы в России выпускники вузов могли найти работу не хуже, чем в Google.

— И есть такие отечественные компании?

— Замечательный пример — Яндекс и ABBYY, они хорошо продвинулись в лингвистике, сделали очень хорошую платформу. Касперский тоже в своей нише компания мирового уровня, экспортёр. Но, к сожалению, таких компаний пока мало. Если мы хотим иметь цифровой суверенитет, то должны заниматься этими вещами на серьёзном уровне.

Что такое хорошо и что такое плохо

— Сергей Александрович, вот уже 25 лет вы занимаетесь машинным интеллектом. В 90-х годах руководили международными научными проектами по разработке нейросетевой ассоциативной памяти и созданию системы распознавания русской речи. Как далеко смогли продвинуться?

— Более десяти лет назад мы создали компанию «Айкумен», скрестившую поисковые технологии и технологии экспертных систем. Сейчас эта компания очень успешна и работает с данными для больших организаций, в том числе банков и т.д. Мы создаём специализированные поисковые системы для решения вопросов, связанных с безопасностью, для выявления нетривиальных связей в больших массивах данных. На Западе есть компания Palantir, которая решает аналогичные задачи.

Но я в какой-то момент понял, что используемые нами технологии имеют свои ограничения. Чтобы их преодолеть, надо глубже понять, как устроен мозг. И понять не в плане тонкостей взаимодействия между собой нейронов (там ещё много тайн), а в плане того, как устроена архитектура вычислений в мозгу, как различные алгоритмы обучения сочетаются. Поэтому я занялся проблемой оцифровки смыслов, чтобы сделать системы распознавания текстов более умными, чем они есть сейчас.

Тут возникает масса вопросов, например, как взаимодействуют между собой и обучаются большие подсистемы мозга: кора, базальные ганглии, мозжечок (каждая из них имеет своё предназначение в мозгу и свой способ обучения)? Я считаю, что если мы это поймём, то сможем сделать машины гораздо более умными. Сейчас они способны только распознавать образы, но этого мало.

Чтобы машине можно было доверить большой объём принятия решений, надо, чтобы она имела эмоции, чтобы у неё было понятие добра и зла, чтобы она понимала, что такое хорошо и что такое плохо… Два года назад появилась на свет моя авторская программа ГОЛЕМ, способная учиться любому языку.

— Любому? Но как такое возможно? Только один наш «великий и могучий» чего стоит… Порой мы, его носители, заходим в тупик и не можем объяснить логику некоторых речевых конструкций. Справится ли машина?

— А ребёнок? Он может понять любой язык! Его надо просто поместить в конкретную языковую среду, и он впитает в себя всё, как губка. Наша задача — сделать программу, которая может учиться так же. И тогда, если мы поместим её в любую языковую среду, тем или иным способом она тоже впитает в себя этот язык.

Бытует мнение, что языковые конструкции слишком сложны, чтобы их можно было выявить автоматически без участия лингвистов. Однако никто не может отрицать, что источником лингвистических правил является в конечном итоге живой язык. И подход к языку «снизу вверх», от данных к правилам, имеет не меньше оснований, чем традиционный подход «сверху вниз», с позиций конкретной теории. Дети-то ведь учат язык не по учебникам грамматики! Почему бы и машинному обучению не пойти
таким же путём?

— И как на практике выглядит процесс обучения машины языку?

— В систему подаются большие данные — поток текстов из Интернета. Любой язык — это строки из букв. Программа начинает распознавать характерные паттерны букв, которые являются сначала частью слов, потом словами. Потом она начинает находить правила, как слова друг с другом складываются в предложения, затем начинает разбирать предложения, находить смыслы этих слов, комбинации смыслов. Весь код в моей программе занимает, может быть, несколько сотен Кбайт, а когда она обучается, то разбухает до нескольких Гбайт — это все знания, которые она накопила и сложила у себя определённым образом благодаря алгоритму обучения.

— И как долго программа может учиться?

— Бесконечно! Она будет заложена в поисковики нового поколения, которые мы сейчас разрабатываем. Я считаю, что это только начало…

Следующий шаг

— Работа над поисковиком идёт, но надо, чтобы программа не просто понимала тексты, а заговорила, и не просто заговорила (сейчас функция голосовых запросов доступна в Google — прим. автора), а стала интеллектуальным собеседником, помощником. Чтобы она могла генерировать тексты, сочинять и порождать речь — у неё для этого должны быть мотивы.

— Но это у человека речь начинается с того, что возникает желание что-то сказать…

— Вот и надо сделать так, чтобы у программы возникло желание что-то сделать, чтобы у неё были какие-то цели, чтобы она их добивалась и, в частности, чтобы ей хотелось разговаривать. Это долгоиграющие исследования, но ближайшая цель — сделать поисковик, который был бы гораздо умнее существующих сегодня.

— Как вы относитесь к утверждению, что запрограммировать такое понятие, как «человеческий здравый смысл», невозможно?

— Запрограммировать действительно невозможно. Все неуспехи искусственного интеллекта за прошедшие полвека связаны именно с этим. Утверждение абсолютно правильное, но оно вовсе не означает, что задача неразрешимая, а просто подход надо поменять. Сейчас надежды связаны с тем, что удастся запрограммировать алгоритм обучения, который, может быть, гораздо проще, чем здравый смысл. И уже запрограммировав этот алгоритм, можно учить машину так же, как мы учим человека. Если мы научим машину обучаться, то и «здравый смысл» можно будет в неё поместить воспитанием. Скорее всего, это будут такие «воспитатели» для машин, которые то, что для нас является здравым смыслом, будут передавать ей.

— Да, но научить машину эмоциям — это уже запредельно… Кстати, у неё и органов чувств-то нет. Они не могут понимать, что означает, скажем, тяжёлый — лёгкий или тёмный–светлый…

— В скором времени это будет преодолено, потому что у современных роботов уже много различных сенсоров. Когда у них появится понимание физического мира такое же, как у нас (хотя оно будет несколько иное, поскольку и сенсоры у них другие), как только машины в виде роботов начнут жить в физическом мире — у них появится свой здравый смысл и понимание, как себя вести в этом мире.

Киборги рулят?

— В настоящее время роботы находятся на самой ранней стадии своего развития, — уверяет Шумский. — Вспомним историю. В начале прошлого века каждой машине требовалась бригада машинистов для обслуживания. Проехать она могла только каких-то 10 км, после чего надо было ремонтировать. Зато через 20 лет автомобили уже бегали по всей Европе, а лошади стали исчезать. Примерно то же самое — с роботами. Но сейчас время ускорилось…

— То есть и 20-ти лет не понадобится?

— Скорее всего, на наших глазах произойдут существенные изменения, связанные с робототехникой. В середине 2000-х DARPA (англ. Defense Advanced Research Projects Agency) — агентство передовых оборонных исследовательских проектов Министерства обороны США, отвечающее за разработку новых технологий для использования в вооружённых силах, объявило конкурс по робомобилям. Самоходные автомобили должны были проехать, скажем, из пункта А в пункт Б, а победителю был назначен приз в несколько миллионов долларов. В первом соревновании ни одна машина не смогла преодолеть даже небольшого участка этого пути. Спустя год или два уже почти все машины добрались до финиша. Потом организаторы усложнили условия и перенесли трассу в границы города. Потом Google купил компанию, которая участвовала в этом соревновании, и в прошлом году уже представил прототип такого робомобиля. Это миленькая машинка без руля, в неё садишься, говоришь, куда тебе ехать, и она везёт…

— И ехать с таким водителем-роботом, наверное, не страшно. Я где-то читала, что он реагирует быстрее обычного шофёра, имеет угол обзора 360°, его невозможно отвлечь, он не уснёт за рулём и не будет зависеть от настроения…

— Вот именно. Теперь дело за малым — законодательно разрешить использование таких машин. Как только этот этап будет пройден, робомобили появятся везде, и водители-киборги начнут вытеснять живых конкурентов.
Борьба за выживание

— Какие ещё профессии в скором будущем, простите за каламбур, канут в прошлое?

— Очень-очень многие. И не через 15 лет, а гораздо раньше. Роботу для этого не надо иметь мозг, равный человеческому — останутся без дела не только водители, но и грузчики, кассиры супермаркетов… Например, Аmazon — крупнейший интернет-магазин в мире, имеет большие склады, где вся логистика уже роботизирована. Сейчас компания планирует доставлять заказы дронами — беспилотными вертолётами.

Уже в 2030 году по закону Мура процессоры мощностью в человеческий мозг будут стоить тысячу долларов. То, что миллионы людей окажутся без работы — неоспоримо. Тут не нужен Терминатор, чтобы мы почувствовали на себе последствия приближения эры машин.

Профессии будут исчезать одна за одной, стремительно, а не постепенно, как раньше исчезали кучеры, стенографистки, машинистки, телефонистки…

— Волна увольнений, безработица … Что делать?

— Надо понимать, что это будет, что к этому нужно готовиться, и что на столе политиков уже сегодня должна быть «дорожная карта будущего».

— Не только обыватели, но и некоторые ваши коллеги-учёные опасаются, что машины могут стать умнее человека. Неужели и вправду появятся машины, угрожающие здоровью и жизни человека?

— А уже зафиксированы случаи, когда военные роботы на полигоне постреляли людей. Так что это не фантастика. Военное роботостроение — очень интенсивно развивающаяся область, и те роботы, которые там делаются, очень опасны. То, что машины в конечном счёте будут умнее нас, — факт бесспорный. Только за прошедший год на эту тему появилось три книги.

Одну из них — «Наше последнее изобретение: искусственный интеллект и конец человеческой эры» — написал Джеймс БАРРОТ. «Если что-то существует только благодаря Голливуду, то это не значит, что этого не может случиться в реальности», — сказал автор в одном из интервью. Дело в том, что если раньше угроза киборгов была гипотетической, то в наши дни люди, вовлечённые в гонку за искусственным интеллектом, первыми почувствовали опасность.

За последние полгода на эту тему выступил, к примеру, Илон МАСК, создатель электромобиля Tesla, известный частными космическими полётами. Он заявил о том, что готов выделить 10 млн долларов на то, чтобы исследовать проблему прихода машинного интеллекта и перспективы того, как мы будем с ним существовать…

Президенту России 20 января 2015 г. на полигоне оборонного института «Точмаш» в подмосковном Климовске представили человекоподобного робота, который управлял квадроциклом и прицельно стрелял. Киборг разработан НПО «Андроидная техника» и Фондом перспективных исследований.

Задачи на будущее

Пока что компьютеры очень хорошо дополняют человека. Они используются там, где человеческий мозг плох, может делать ошибки.

— Вы знаете, что у человека расширяются зрачки, когда он начинает делить любое двузначное число? — задаёт вопрос Шумский. — Расширение зрачков — это верный признак интеллектуальных усилий. Люди всё время ошибаются. Они отвлекаются, могут не повторить одно и то же вычисление или мысль дважды. Компьютеры же могут быстро делать рутинные операции. Всё, чему мы когда-то научились, сможем поручить им. Всё… кроме творческих задач.

— Почему?

— А сами пока не знаем, что это такое и как их решать.

— Значит, писателям и журналистам роботы не составят конкуренцию?

— Как знать… Уже сейчас множество статей в Википедии пишут роботы, и множество коммюнике в агентстве Ассошиэйтед Пресс (Associated Press) — тоже их «рук» дело. Это в основном однотипные отчёты компаний — несколько тысяч статей… Творчества в них, конечно, никакого. Но как только нам удастся разгадать тайну кухни пишущей братии…

— Но, как известно, копия не может быть умнее оригинала, — спрашиваю с надеждой, в глубине души начиная тихо ненавидеть будущих гуманоидов-гуманитариев…

— Копия да, но наша задача сделать не копию, — не замечая моей тревоги, продолжает Шумский. — Ведь самолёт не копия птицы, однако, может переносить людей. Впереди много работы. Изучить, как устроено мышление человека, — перспектива заманчивая. Компьютерные томограммы и электроэнцефалограммы специалисты научились расшифровывать до такой степени подробно, что теперь мы знаем, как соединены различные участки мозга друг с другом у конкретного человека, не вскрывая черепную коробку. Сейчас наши возможности видеть, что происходит в мозгу, намного превосходят возможности понять всё увиденное. К сожалению, катастрофически не хватает теории, чтобы расшифровать все измерения приборов. И сильно недостаёт общего взгляда на то, как устроены вычисления в мозгу. Но данная область исследований на стыке физики, биологии и кибернетики — чрезвычайно интересна.

Кстати, электронный мозг в будущем мог бы помочь нам лучше понять, как устроено наше сознание. Ведь не сделав вещь искусственно, никогда не поймёшь, как она устроена…

Виктория ДМИТРИЕВА