Когда человек станет не нужен


Главные новости дня читайте в нашем паблике Вконтакте

 

 

На фоне новостей о достижениях в разработке искусственного интеллекта все чаще возникает ощущение, что мы на пороге какого-то великого открытия. Кто-то грезит о роботе из «Двухсотлетнего человека» с Робином Уильямсом, кто-то пугает нас Скайнетом из «Терминатора». Onliner.by пообщался с популяризатором науки Сергеем Марковым, который как никто другой разбирается в вопросах ИИ.

Сергей больше практик с объемной базой знаний по машинному обучению и искусственному интеллекту. Он разрабатывает системы, которые решают задачи, связанные с интеллектуальной обработкой данных, занимается шахматным программированием, создал программу SmarThink, которая становилась чемпионом России и СНГ среди шахматных программ, основал научно-популярный сайт «22 век» и часто становится экспертом в вопросах машинного обучения и ИИ.


— Создается впечатление, что человечество приближается к очередному слому эпох (если сейчас в нем не находится), когда старое активно заменяется новым и отмирает. И процесс этот проходит намного быстрее индустриальной революции. Какие последствия это несет для человечества и по каким направлениям стоит ожидать наиболее болезненных перемен?

— В 1997 году в своей книге «Дилемма инноватора» профессор Клейтон Кристенсен (Clayton Christensen) впервые ввел в научный оборот понятие «подрывной инновации» (disruptive innovation). Подрывные инновации — это новшества (обычно технологические), способные радикальным образом изменить существующее положение дел на рынке. Сейчас на эту роль претендуют в первую очередь современные технологии искусственного интеллекта и машинного обучения.

Подрастающая замена человеку

— Суть подрывного эффекта таких технологий двоякая. С одной стороны, мы наконец-то смогли решить ряд задач, долгое время остававшихся нерешенными, — машины научились распознавать изображения не хуже, а в некоторых экспериментах даже лучше человека.

Большой прогресс был достигнут также в области распознавания речи, где в некоторых случаях машины также справляются с задачей распознавания лучше людей. При помощи рекуррентных нейронных сетей удалось создать системы, способные в определенных пределах понимать смысл сказанных слов, синтезировать почти не отличающуюся от настоящей устную речь. Развитие генеративных моделей позволило сделать большой шаг вперед в деле музыкальной композиции, обработки и даже генерации новых изображений. Словом, был достигнут прогресс в целом ряде важных когнитивных и даже творческих задач, что открыло двери для автоматизации многих видов труда.

Если у вас есть система распознавания речи (модель, способная в определенных пределах понимать естественный язык) и натурально звучащий синтезатор речи — значит, задача по созданию автоматического оператора кол-центра из научной становится чисто инженерной и в ряде случаев способна воплотиться в форме более чем рентабельного коммерческого проекта. Если раньше специалиста, занимающегося голосовым взаимодействием с клиентами, чисто технически нельзя было заменить машиной, то сегодня проблема переместилась в иную плоскость.

Многие профессии избежали автоматизации на заре эры электроники из-за того, что производственный процесс включал в себя те или иные базовые когнитивные задачи — распознать объект, понять голос, сказать что-либо и т. п. Как только эти важные звенья удалось автоматизировать, человек здесь стал, в общем-то, не нужен.

Уже открыты сотни, если не тысячи проектов, направленных на замену или частичную автоматизацию человеческого труда в десятках и сотнях разных профессий. Водитель автомобиля, специалист в области «холодных» продаж, оператор справочной службы, персональный помощник, продавец супермаркета — всех их в среднесрочной перспективе могут заменить машины. Конечно, многие автоматизированные решения пока что весьма далеки от совершенства. Мне тут всегда вспоминается машина для автоматического кормления рабочих на заводе из фильма «Новые времена» с Чарли Чаплином.

Техкомпании могут остаться у разбитого корыта

— Многие проекты ожидает фиаско: на смену громкому хайпу придет волна разочарований. Все это неизбежно в условиях стартап-экономики, ориентированной на продажу инвесторам завышенных ожиданий. Но также совершенно верно и то, что на этом поприще уже были достигнуты вполне реальные успехи и получены первые реальные финансовые результаты, а значит, технический и производственный процесс в этом направлении уже вряд ли удастся остановить.

Вторым, не таким ожидаемым последствием прогресса в области искусственного интеллекта и машинного обучения является инфляция технологий. Многие технологические компании, годами и десятилетиями развивавшие новые технологии, внезапно могут оказаться у разбитого корыта. Многие сложные модели, в развитие которых вкладывались многолетние крупные инвестиции и серьезная техническая экспертиза, внезапно становятся безнадежно устаревшими.

В этих условиях врагом крупных компаний становится их технологическая и организационная инерция, неспособность быстро меняться, отвечая на новые технологические вызовы, непонимание того, что психологически комфортная стратегия «ничего не менять» в определенный момент становится неоправданно рискованной. Тяжелые социальные последствия автоматизации в наши дни способна вызвать не только широкомасштабная замена людей машинами сама по себе, но и разорение системообразующих компаний, являющихся крупными налогоплательщиками и держателями части социальной инфраструктуры.

Человечество в своем развитии уже несколько раз проходило сквозь волны массовой автоматизации, и каждый раз этот опыт был отнюдь не безболезненным. Изменения в общественном хозяйстве и социальной сфере отзовутся многократно усиленным эхом и в политике. На мой взгляд, сейчас самое время политикам и общественным деятелям задуматься о том, какие меры следует предпринять для того, чтобы, с одной стороны, максимально снизить негативные последствия наступающей эры искусственного интеллекта, а с другой — не остаться в хвосте мирового прогресса, так как любые попытки ограничить развитие технологий чреваты более чем катастрофическими последствиями.

— Удастся ли человечеству в ближайшей перспективе реализовать универсальный искусственный интеллект, каким мы его привыкли видеть в научно-фантастических фильмах? Тот же «Двухсотлетний человек» с Робином Уильямсом как самый добрый вариант ИИ. Или это слишком комплексная задача, которую не решить с наскока? 

— Безусловно, задача это непростая, и пока что не только с инженерной, но и с научной точки зрения. Тем не менее прогресс в этой области тоже есть и весьма существенный.

13 лет до модели мозга человека

— Традиционно технология, в попытках найти решение той или иной задачи, стремится подсмотреть решение у природы, если природа с этой задачей уже справилась. Такой подход принято называть бионикой. Отдельное большое направление исследований связано с изучением естественного интеллекта и главного объекта для изучения в этой области — человеческого мозга.

Нейрофизиологи и специалисты по вычислительным системам работают вместе, стремясь создать электронные модели, повторяющие высшую нервную деятельность. Самый крупный такой проект — Blue Brain — спонсирует компания IBM. С начала 2000-х годов ученым удалось создать работающие модели частей неокортекса крысы, открыть целый ряд доселе неизвестных процессов в мозге млекопитающих. Таймлайн проекта предполагает создание действующей модели мозга человека к 2022 году. Впрочем, как часто бывает в подобных проектах, сроки могут быть в той или иной степени недооценены, но, тем не менее, я думаю, что к концу 2020-х — началу 2030-х такие модели должны появиться.

Примерно к тому же времени нас адресуют расчеты Рея Курцвела, давшего оценку времени создания машин, сопоставимых по своей производительности с человеческим мозгом.

— Какие сегодня ведутся работы в этом направлении? Просто создается впечатление, что все они зациклены исключительно на нейросетях, способных решать условно частные задачи. 

— Сейчас развивается множество интересных моделей, способных приблизить нас к созданию универсального искусственного интеллекта. Это и импульсные нейронные сети (в т. ч. создание специализированного оборудования для их выполнения), и новые виды рекуррентных нейронных сетей. Кроме того, проводятся сложные эксперименты с рекуррентными сетями в задачах обучения с подкреплением. Появление в ближайшие годы специализированного оборудования для тренировки и выполнения нейронных сетей приведет к еще большему ускорению прогресса в этом направлении.

И все-таки мое личное убеждение — такие системы, когда они будут созданы, так и останутся лабораторными и научными проектами и сами по себе не станут частью нашей индустрии. На мой взгляд, будущее за синтетическими системами, в которых сверхинтеллект будет продуктом соединения технологических и биологических систем в единое целое.

Государства опасаются, а бизнесу нужна прикладная наука

— Какое влияние оказывает бизнес на развитие идей искусственного интеллекта и можно ли решать эту задачу с привлечением каких-либо государственных, бюджетных средств?

— Во всем мире бизнес инвестирует средства главным образом в прикладную науку и технологии. Только очень крупный бизнес может позволить себе вложения во что-то более-менее фундаментальное, в проект, где риски весьма высоки, а срок окупаемости может составлять десятилетия. Но если говорить о внедрении созданных государственной или общественной наукой решений и моделей, то тут частный бизнес способен стать своеобразным локомотивом.

Однако здесь он наталкивается на серьезные внешние ограничения в виде дефицита кадров, и решить эту проблему самостоятельно бизнес не в силах. Как и вообще большинство серьезных проблем, стоящих сегодня перед человечеством и требующих взгляда в будущее больше чем на пару десятков лет.

У государства здесь есть достаточно большие возможности по влиянию на эту сферу, и многие из них могут быть даже достаточно недорогими. Но в развитие технологий искусственного интеллекта нужны серьезные вложения интеллекта естественного. В том числе на государственном уровне. И тут, конечно, очень большой вопрос, найдутся ли у нас такого рода ресурсы.

Многие специалисты в сфере информационных технологий не скрывают своих опасений по поводу прихода государства в эту область. Существует серьезный риск, что политика сведется к запретительным мерам либо неоптимальному регулированию, от которого пострадает не только отрасль, но и вся страна, которой растущее технологическое отставание обойдется весьма дорого.

Этических проблем вокруг ИИ станет только больше

— Какие этические проблемы ставит перед человеком создание и использование искусственного интеллекта? Сможет ли сам ИИ быть этичным и эмоциональным? Взять, к примеру, те же беспилотные автомобили с их сложными алгоритмами и дилеммой спасения пассажира или пешеходов. Как можно будет избежать подобного? 

— Я думаю, что этические вопросы в этой области еще долгое время будут только множиться. Сюда относятся и проблемы, связанные с социальными последствиями внедрения систем ИИ, и другие, возможно, не совсем очевидные проблемы, которые не столь наглядны, как проблема робота-водителя, но куда более жизненны.

Например, это проблема «цифрового тайного суда» — когда решения по важным для людей вопросам принимаются системами ИИ, обладающими закрытым для человека набором данных о нем. Например, вы приходите в банк за кредитом. Какие сведения о вас будет использовать в принятии решения скоринговая система? Вы приходите устраиваться на работу — какие данные попадут в скоринговую модель работодателя? Кто и в какой мере должен быть ответственен за последствия решений, принимаемых моделями? Как избежать скрытого неравенства, несправедливости в принятии таких решений? Никакой серебряной пули для решения подобных проблем пока не изобретено, и специалистам предстоит немало потрудиться, чтобы выработать в этой области приемлемые компромиссы.

Симбиоз ИИ и человека с возможностью апгрейда и перепрограммирования

— На самом деле мы уже довольно давно живем в симбиозе со своими инструментами (молоток продолжает человеческую руку, одежда — человеческую кожу и т. п.). Не вижу причин, по которым мы сделали бы для систем искусственного интеллекта какое-то исключение.

Можно сказать, это уже произошло, т. к. в наши мобильные телефоны и компьютеры встроены те или иные прикладные системы ИИ. Другое дело, что такой симбиоз может и должен стать более эффективным, более тесным.


Человеческий мозг получает информацию об окружающем мире через органы чувств и передает ее во внешний мир при помощи мышц. Эти каналы связи, особенно выходной, весьма несовершенны, обладают низкой пропускной способностью.

В наши дни активно развиваются технологии, направленные на создание «прямого» интерфейса машина — мозг. Один из примеров — оптогенетические интерфейсы, при помощи которых мы уже умеем делать радиоуправляемых насекомых.

Первое разрешение на использование оптогенетических технологий в отношении людей (пока — для восстановления зрения) было получено в прошлом году. Амбициозный проект Илона Маска Neuralink планирует разработку и производство имплантируемых нейрокомпьютерных интерфейсов. Вошли в обиход кохлеарные имплантаты для восстановления слуха, развивается протезирование зрения.

Сама природа указывает нам на большие возможности в этой области. Я имею в виду случай сестер-краниопагов (сиамских близнецов) Кристы и Татьяны Хоган, между мозгами которых образовался естественный «таламический мост», при помощи которого девочки способны, не утратив индивидуальности, передавать друг другу информацию напрямую.

Думаю, что в определенный момент уровень развития наших технологий достигнет уровня организации нашего собственного тела, и общество будущего будет своеобразной сетью связанных между собой интеллектов, улучшенных, дополненных прикладными модулями ИИ, готовыми к смене носителя, реконфигурации и доработке. Но это, конечно, пока лишь смелые прогнозы, которые мы можем строить под впечатлением от существующего вектора развития в этой области.

 

https://tech.onliner.by/2017/10/13/iskusstvennyj-intellekt-2