В середине прошлого века искусственный интеллект (ИИ) философски осмыслялся в рассказах Айзека Азимова - “робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред”, гласит первый закон роботехники. Но что, если ситуация противоречива - например, идет хирургическая операция? Насколько сложным будет алгоритм, по которому робот взвесит все риски и все же проведет операцию, не нарушая первый закон?

Теперь мы уже в “мире будущего”, и жизнь рядом с ИИ - реальность. Роботы вытеснили человека во многих отраслях производства. Что будет, когда машина станет еще умнее?

СО СКОРОСТЬЮ МЫСЛИ

Наблюдение за созданием технологий искусственного интеллекта - всегда взгляд на следы: публикации отстают от реального авангарда в этой сфере. В далеком 1997 году компьютер Deep Blue обыграл в шахматы тогдашнего чемпиона мира Гарри Каспарова. В феврале 2011-го суперкомпьютер IBM Watson выиграл миллион долларов в телевикторине Jeopardy! (в России - “Своя игра”), оставив позади двух рекордсменов - по длительности беспроигрышной серии и обладателя самого большого выигрыша в истории игры. За этими и другими достижениями стоят количественные характеристики: объем памяти, скорость, производительность. Технологии искусственного интеллекта впечатляющи, но при этом ограничены узкой областью применения. А понимание и математическое описание ИИ всецело опирается на понимание того, как работает естественный интеллект.

Все современные устройства, наделенные технологиями ИИ, созданы людьми. Факт очевидный, но в нем одна из важнейших проблем для разработчиков  - невозможность добиться от “разумных” машин самовоспроизведения. Тот же IBM Watson способен очень точно диагностировать заболевания путем сопоставления множества симптомов. Но он не может без участия человека создать машину, которая, например, сама научилась бы завязывать шнурки и печь блинчики.

Писатель Вернор Виндж назвал самовоспроизведение у машин одной из характеристик “технологической сингулярности”  - такого момента в будущем, когда технологический прогресс станет неконтролируемым и недоступным пониманию человека. Привести к этому, помимо самовоспроизведения, должна и самообучаемость - расширение и углубление машиной своих компетенций, самостоятельная постановка целей и задач, что позволит искусственному интеллекту превзойти человеческий по всем параметрам.

Хотя нет признаков, что попытки создать полноценный искусственный интеллект могут увенчаться успехом, очевидно, что за технологиями ИИ - будущее. В 2017 году International Data Corporation, международная компания, занимающаяся изучением мирового рынка информационных технологий и телекоммуникаций, прогнозировала, что в разработку ИИ в 2019 году будет вложено 29,8 млрд долларов. На деле вышло 37,5 млрд. Прогноз IDC на 2021 год таков: 52,2 млрд долларов будет вложено в отрасль, до 75% корпоративных приложений будут включать ИИ. Как следствие, к концу этого года технологии искусственного интеллекта поглотят 7,1 млн рабочих мест.

ЭЛЕКТРОННЫЙ КОМПОЗИТОР

Ряд профессий уходит в прошлое с развитием технологий - у машины есть неоспоримые преимущества: быстрый анализ массивов информации, замена человека в опасной среде, исключение ошибок, вызванных человеческим фактором, упрощение и ускорение процедур (информирование, обслуживание, производство). Ответ на такой вызов компетенциям человека ищут в этической плоскости - этим занимается ЮНЕСКО. Но не только эта организация, тем более что одной этикой человека не защитишь.

Так, в докладе для Европейского института профсоюзов (исследовательский центр Европейской конфедерации профсоюзов) “Труд в эпоху ИИ: почему контроль важен, чтобы защитить работников” старший исследователь Аида Понсе дель Кастильо пишет: “Полагаться на многочисленные руководства по этике, нормы поведения и другие добровольные инициативы по управлению ИИ - неэффективно. Это не гарантирует адекватной защиты работников и с легкостью может открыть путь этической показухе”.

И примеры тому есть. В частности, компания Google сформировала комитет по этике ИИ - без права вето по поводу сомнительных проектов. Итак, устаревают: бухгалтер, менеджер по кредитам, статистик, библиотекарь, испытатель, юрисконсульт, нотариус, экскурсовод, журналист, системный администратор, диспетчер, вахтер, почтальон, машинист товарного состава, инспектор ДПС, швея, бетонщик, рабочий химчистки, официант, тренер и многие другие профессии. С тех пор, как дискуссия об ИИ вышла за рамки ученых кругов (в середине прошлого века нью-йоркские художники, например Энди Уорхол, читали и обсуждали книги Норберта Винера, а подлинным событием стал фильм 1968 года “2001 год: Космическая одиссея”), творческая интеллигенция успокаивала сама себя - творить машина не сможет. Или сможет?

В советском фильме “Доживем до понедельника” (тоже 1968 года) “молодой, но лысый товарищ в массивных очках” предрекал электронному композитору большое будущее. По замыслу этот эпизод должен был вызвать скепсис, но в XXI веке он смотрится по-другому. (Ознакомиться с опусами современного электронного композитора можно здесь.)

Другой свежий пример. Некто Николай Иронов около года работал как удаленный сотрудник дизайн-студии Артемия Лебедева. А недавно стало известно, что Иронов - нейросеть (одна из технологий ИИ - распределенная и нелинейная вычислительная система). Результаты его труда отнюдь не бесспорны, некоторые вы можете видеть на полках магазинов (крафтовое пиво Pils) или на страницах социальных сетей популярных блогеров (Юрий Хованский, Сергей Одесский). Здесь не место оценивать качество работы нейросети, важно другое  - в каждом проекте был прогресс. Дизайн не создавался как случайный набор форм, шрифтов и цветов; творениям нейросети присуще эстетическое единство.

ДРУГ МОЙ KOL-KA

Дэниел К. Деннет, американский философ, изучающий проблематику ИИ, сделал важное заявление для тех, кому предстоит организовывать работу “бок о бок” с искусственным интеллектом: “Мы создаем инструменты, а не коллег, и реальная опасность состоит в том, чтобы не видеть разницы; мы должны всячески ее подчеркивать, обозначать и отстаивать, в том числе с помощью политических и правовых инноваций”.

А. Понсе дель Кастильо в сфере правовых инноваций выделяет два фундаментальных принципа. Первый - решения ИИ не должны дискриминировать человека, ущемляя его права (скажем, при назначении смен ИИ должен равномерно распределять ночные и длительные смены). Второй - “предупредительный принцип”, который означает, что нужна система управления, основанная на социальном диалоге и вовлекающая соответствующих “социальных акторов” - действующих субъектов; нужна структура, способствующая объяснению и подотчетному алгоритмическому принятию решений; наконец, нужна гарантия того, что технологические инновации будут безопасны для общества.

Что до применения технологий ИИ в области труда, то здесь правовое регулирование вынуждает двигаться меж Сциллой “луддистского паникерства” (по выражению исследователя ИИ Макса Тегмарка) и Харибдой лентяйского восторга. Необходимо на законодательном уровне обеспечить безопасность частной жизни работников и их персональных данных. Учитывая перспективу глобального и децентрализованного развития технологий ИИ, люди должны быть уверены в безопасности хранения и использования их персональных данных. Профсоюзы должны сотрудничать с институтами власти, ответственными за безопасность и неприкосновенность частной жизни, предоставляя информацию о частных случаях взаимодействия человека с машиной. Также профсоюзы должны стимулировать дальнейшую разработку нормативных документов в ранее не предусмотренных областях.

ВХОДИТ ТЕРМИНАТОР

В перспективе ИИ не надо воспринимать как говорящую голову злого терминатора. Скорее всего, эти технологии разовьются в распределенную сеть, своеобразный электронный мозг, базирующийся на серверах по всему миру. Полноценного ИИ (его называют “общий ИИ”), который был бы полным аналогом естественного интеллекта, сейчас нет. Однако есть специализированные ИИ, которые справляются с определенными задачами эффективнее людей, что и позволяет технологиям “отнимать” рабочие места.

Все, кто пользуется интернетом, участвуют в создании искусственного интеллекта. Если вы хоть раз выполняли задание капчи (CAPTCHA) - выбирали картинки с гидрантами, автобусами, лестницами,  - вы участвовали в машинном обучении. Этому же могут способствовать челленджи (англ. “вызов”; можно определить как “А вам слабо?”) в соцсетях, например “Я сегодня и 10 лет назад”, - с помощью таких данных машина учится определять возрастные изменения. Это можно использовать для автоматизации паспортного контроля и поиска преступников.

Сбор информации о пользователях часто вызывает панику - “приватность мертва!”. Но вопрос, “хорошо или плохо создавать ИИ”, уже не стоит. Эти технологии могут помочь в борьбе с терроризмом, коррупцией и отмыванием денег, сделать безопаснее ряд индустрий (например, добывающую промышленность). Хотя польза очевидна, исторический опыт подсказывает, что при этом важно не допустить “электронной Хиросимы” или “Чернобыля”. Львиная доля дискуссии вокруг ИИ затрагивает роковые сценарии уничтожения человечества бездушной машиной. Но до сих пор неясно, есть ли хотя бы теоретическая возможность создания такого “общего ИИ”.

Вот тут-то исследователи за деревьями не видят леса - громкие фантазии о будущем человечества, годные для сиюминутного хайпа, затмевают взвешенную аналитику влияния ИИ на общество здесь и сейчас. На противоположном конце от хайпового сценария “Терминатора” лежит такая важная проблема, как “обесчеловечивание” людей. Эта проблема занимает экспертную группу ЮНЕСКО по выработке рекомендаций этических принципов использования ИИ. В группу в том числе входит директор Центра по научным и инженерным вычислительным технологиям для задач с большими массивами данных Сколковского института науки и технологий (CDISE Сколтех) Максим Федоров. Сейчас ведется работа над черновиком документа, регулирующего этические аспекты ИИ. И сложно согласиться с Элиезером Юдковским, американским специалистом по искусственному интеллекту, когда он пишет, что обсуждение влияния ИИ на рынок труда - сродни обсуждению влияния падения Луны на Землю на американо-китайские торговые отношения.

Комментарий

Павел Осиненко, PhD Дрезденского университета, старший преподаватель Центра по научным и инженерным вычислительным технологиям для задач с  большими массивами данных Сколковского института науки и  технологий:

- Замена человека искусственным интеллектом - вопрос многофакторный, он включает технический, этический, политический, экономический и другие аспекты. Обсудим первый из них. Задача технической замены человека ИИ сводится к вычислительной сложности той или иной функции естественного интеллекта. Если результаты работы искусственного интеллекта и человека неразличимы другими людьми (по принципу теста Тьюринга), то условно ИИ может в данной задаче заменить человека.

Например, возьмем задачу написания статьи в газету: если читатель не может сказать, писал этот текст журналист или алгоритм-генератор, значит, автора может заменить машина. (Похоже, в будущем этого стоит ожидать во вторичной журналистике, опирающейся на информацию из других СМИ. - К.А.).

На предмет вычислительной сложности высших мозговых функций на данный момент можно только спекулировать. Грубые оценки можно дать на “бытовом уровне”: скажем, заменить водителя-дальнобойщика сложнее, чем железнодорожного диспетчера.

На мой взгляд, принимая во внимание усилия таких компаний, как Tesla, Toyota и “Яндекс”, частичная замена шоферов возможна в течение 10 - 15 лет. В  эти же рамки могут войти некоторые функции уборки помещений в пределах одного этажа (с шагающими конфигурациями роботов дело обстоит сложнее). Не одно десятилетие займет имитация сложных моторных функций кисти человека.

В творческих областях - огромный спектр задач, колоссально отличающихся друг от друга по сложности. Принимая во внимание примитивизацию развлекательного контента, можно представить появление в ближайшие 10  - 15 лет алгоритмов, способных генерировать нечто усвояемое. Есть многообещающие примеры музыкального и изобразительного творчества. Математики тоже не останутся в безопасности - ИИ учится доказывать теоремы. Однако не стоит излишне драматизировать автоматизацию и замену человека ИИ. Тысячи профессий исчезли с развитием техники. Человек характерен своей обучаемостью и адаптивностью. С  развитием технологий ИИ наша деятельность будет смещаться в другие области.

ДОСЬЕ

Столпы правового регулирования ИИ

С развитием технологий работники все чаще сталкиваются с устройствами и приложениями, отслеживающими их жизненные показатели, круг общения, степень концентрации и поведение на работе. Такие технологии необходимы для обеспечения безопасности и для повышения производительности труда. Но это скользкая дорожка к унижению человеческого достоинства, поскольку такой сотрудник всецело контролируется работодателем и все свое рабочее время находится “под колпаком”. Технологии мониторинга, обработки и применения данных должны иметь четкий правовой статус.

Алгоритмы и цели, заложенные в технологии искусственного интеллекта, должны быть прозрачны. И речь идет не об открытом программном коде. При разработке нельзя упускать из виду, на кого нацелены те или иные аспекты работы ИИ, какие компромиссы, учитывающие ценности человеческого общества и его вариативностей (раса, гендер, экономический и социальный статус), заложены в алгоритмы такого интеллекта. Нужно понимать, как на основе этого алгоритм ведет расчеты и делает предсказания. Описание общества на языке машины (на языке математики) должно в одних случаях учитывать неравенство, а в других - не дискриминировать на этой основе.

Решения, принимаемые ИИ (с развитием технологии таких решений будет все больше), должны быть объяснимы не только теоретически - “как”, но и практически - “почему”. На решения ИИ может влиять множество факторов - чем больше их будет учитывать ИИ, тем более осмысленными и полезными решения будут. Но уже в этих факторах может быть заложена предвзятость. Следовательно, важно понимать значение и условия автоматически принимаемого решения, иметь возможность получить объяснение решения и оспорить его. Иными словами, за машиной необходим контроль с четким правовым статусом.

Непосредственное взаимодействие человека и машины на производстве ставит как минимум две задачи: безопасность работников и их автономность. В  первом случае примером могут служить промышленные роботы, в функции которых должен быть заложен учет физической и психологической безопасности, эргономическое удобство для оператора и обслуживающего персонала. Следовательно, рабочие протоколы должны четко разделять рабочие места человека и машины, машина должна уметь обнаружить человеческое присутствие в потенциально опасном месте, система взаимодействия “человек - машина” должна быть гибкой и адаптивной, необходима постоянная обратная связь со стороны работников-людей. Нельзя также забывать о кибербезопасности и защите от злоумышленников.

Что касается автономности работников - мы руководствуемся тем, что создаем инструменты, а не коллег. Финальное решение должно оставаться за человеком, особенно в тех случаях, когда возникают проблемы во взаимодействии “человек - машина”. Нельзя забывать о “трехстороннем” взаимодействии: будучи под контролем человека, машина должна быть безопасна для другого человека - никто не сможет злонамеренно с помощью робота уронить даже волосок с головы своего недруга.

Работникам, чтобы сохранить свою ценность и достоинство, недостаточно пассивных технических знаний о работе с ИИ. Важно осознание того, как работа с ИИ влияет на их жизнь и карьеру, каковы перспективы этого влияния. Просветительская деятельность должна лечь на плечи учебных заведений и социальных партнеров, таких как профсоюзы.

(По материалам доклада Аиды Понсе дель Кастильо “Рабочая сила в эпоху ИИ: почему правовое регулирование необходимо для защиты работников”)

Камиль Айсин

Источник: https://www.solidarnost.org/articles/mir-trud-roboty.html

Центральная профсоюзная газета «Солидарность» ©