Издательство «Альпина нон-фикшн» представляет книгу специалиста по вычислительной технике Мартина Форда «Власть роботов. Как подготовиться к неизбежному» (перевод Натальи Колпаковой).
Искусственный интеллект (ИИ) уже прочно вошел в нашу жизнь, однако Мартин Форд утверждает, что настоящая революция еще впереди. Он очерчивает свое представление о будущем ИИ. С одной стороны, эта технология видится ему как мощный общедоступный ресурс, что-то вроде нового электрического тока, который в конечном счете преобразит практически все области экономики, общественной жизни и культуры. С другой стороны, ИИ несет с собой реальные опасности как для отдельных людей, так и для общества в целом. Он делает возможным появление дипфейков, способных ввергнуть в хаос общество, порождает беспрецедентные механизмы социального контроля и может быть совершенно необъективным.
Такую технологию нельзя принимать слепо и бездумно, и эта книга должна помочь человечеству подготовиться к грядущему — верно понять происходящее, отделить сенсации от реальности и найти оптимальные способы обеспечения процветания каждого из нас и всего общества в целом.
Предлагаем прочитать фрагмент заключения книги.
ИИ: два варианта будущего
По мере развития ИИ и расширения его присутствия в нашей жизни связанные с ним риски все больше требуют внимания. Наложение коронакризиса на масштабные социальные волнения в 2020 году привело к событиям, свидетельствующим о том, что как минимум некоторые из этих рисков начинают выходить на передний план в общественной жизни. После общенациональных протестов, спровоцированных убийством Джорджа Флойда полицейским в мае того года, расовая необъективность технологии распознавания лиц заставила Amazon объявить годичный мораторий на продажу своей системы Rekognition правоохранительным органам, чтобы дать конгрессу время ввести эту технологию в правовое поле. Microsoft тоже взяла паузу вплоть до принятия соответствующего законодательства, а IBM полностью ушла с рынка систем распознавания лиц.
Пандемия коронавируса открыла новые возможности для принятия нестандартных мер. Когда из-за экономического шатдауна исчезло ошеломляюще большое количество рабочих мест, конгресс смог быстро принять решительные меры, хотя всего несколькими месяцами ранее подобные программы умерли бы, не родившись. В их числе стимулирующие выплаты в размере $1200 напрямую налогоплательщикам, резкое, хотя и временное, повышение пособий по безработице и включение в эту программу участников гигэкономики . В ближайшие годы, когда влияние искусственного интеллекта и роботизации на рынок труда усилится, все эти меры будут, несомненно, актуальными. Уже звучат предложения ввести ежемесячные выплаты — фактически безусловный базовый доход — на все время кризиса.
В то же время жизненно необходим значительно более комплексный и последовательный ответ на опасности, неизбежно связанные с развитием ИИ. Это потребует эффективной координации между властями и частным сектором и создания регулирующей структуры, имеющей достаточные знания и опыт, чтобы адекватно реагировать на быстрые изменения. Всем этим нужно заниматься уже сегодня, поскольку не исключено, что мы уже отстаем от реальности.
Несмотря на совершенно обоснованные опасения, я твердо верю, что польза от искусственного интеллекта намного превзойдет риски. С учетом трудностей, с которыми мы столкнемся в грядущие десятилетия, ИИ кажется мне незаменимым. Он нам понадобится, чтобы оторваться от технологического плато и перейти в новую эпоху широкомасштабного обновления.
Самой очевидной непосредственной угрозой представляется изменение климата. В 2018 году Межправительственная комиссия по изменению климата опубликовала следующий анализ: чтобы не допустить увеличения глобальной температуры более чем на 1,5 °C — это порог, до которого можно надеяться на предотвращение катастрофического ущерба, — мы должны будем к 2050 году сократить выбросы углекислого газа до нуля. Чтобы иметь более- менее реальные шансы на это, к 2030 году выбросы должны снизиться на 45%.
Масштаб этой задачи ясно демонстрирует беспрецедентный эксперимент, поставленный нами с началом пандемии коронавируса. Как отметил Билл Гейтс в своем блоге в августе 2020 года, глобальный шатдаун — когда авиаперелеты практически прекратились, а улицы, шоссе и офисные здания по всему миру опустели — привел к сокращению выбросов углекислого газа всего на 8%. Это временное снижение было достигнуто ценой потери триллионов долларов и дикого роста безработицы почти во всех странах. Иными словами, надежды каким-то чудом снизить выбросы почти наполовину за следующее десятилетие главным образом за счет природоохранной деятельности или изменения поведения, скажем пересаживания на общественный транспорт, нереалистичны — и это слабо сказано. По словам Гейтса, «невозможно добиться нулевых выбросов исключительно — или даже преимущественно — за счет того, что мы станем меньше летать и ездить на машинах».
Успех будет в первую очередь зависеть от инноваций.
Одного лишь перехода на чистую, возобновляемую энергию и электромобили недостаточно. На электростанции и транспорт приходится лишь около 40 % глобальных выбросов.
Остальное — это сельское хозяйство, производство, здания и прочие источники. Чтобы резко сократить выбросы, понадобятся технологические прорывы во всех областях. Добавьте к этому другие трудности, например назревающий мировой кризис с доступом к пресной воде или неизбежную следующую пандемию , и становится ясно, что нам отчаянно нужен всплеск инноваций по всем направлениям. Однако, как мы говорили в главе 3, темп генерирования новых идей в последние десятилетия упал. Как отметили экономисты из Стэнфорда и МТИ, изучавшие инновационную деятельность в Соединенных Штатах, «куда ни посмотри, мы видим, что идеи и сопутствующий им экспоненциальный рост даются все труднее».
Ситуацию необходимо менять, и искусственный интеллект является тем катализатором, который может нам помочь. В этом плане нет ничего важнее, чем общедоступный ресурс, радикально усиливающий интеллектуальные возможности человека и креативность. Наша ключевая задача — сделать все возможное для ускорения создания этого нового ресурса, попутно совершенствуя систему социальной защиты и нормативную базу с тем, чтобы снизить сопутствующие риски и обеспечить широкое и инклюзивное распределение выгод от ИИ.
Сейчас, когда мы только нащупываем этот путь, будущее видится мне как нечто среднее между двумя крайностями, описанными в фантастике. Самый оптимистичный сценарий представлен в телесериале «Звездный путь», где в мире всеобщего благополучия продвинутые технологии позволили создать материальное изобилие, покончить с бедностью, решить экологические проблемы и излечить почти все болезни. Там никому не приходится надрываться на неблагодарной работе, только чтобы выжить. Люди во всем мире высокообразованны и берутся за сложные дела, в которых надеются принести больше всего пользы. Отсутствие работы в традиционном понимании не делает их бездельниками, а их жизнь бессмысленной и недостойной. Во вселенной «Звездного пути» люди ценятся за их внутреннюю доброту, а не за экономический вклад. Хотя многие технологии, показанные в «Звездном пути», скорее всего, неосуществимы или по крайней мере очень отдалены от нас во времени, этот сериал, на мой взгляд, рисует обоснованную картину будущего, в котором передовые технологии обеспечивают массовое благоденствие, решают земные задачи человечества и приводят нас к звездам.
Альтернативное и очень мрачное представление о будущем — это, пожалуй, «Матрица». Я боюсь не того, что искусственный интеллект когда- нибудь нас поработит, а того, что реальный мир станет настолько неадекватным и лишающим большинство обычных людей перспектив, что значительная часть населения предпочтет убежать в альтернативную реальность. Ускорение развития в следующие десятилетия ИИ и виртуальной реальности в совокупности приведет к созданию невероятно реалистичных имитаций, которые многим могут показаться несопоставимо привлекательнее реального мира. Как показывает анализ, проведенный в 2017 году группой экономистов, все больше молодых людей, вытесненных с рынка труда, проводят несоразмерно много времени за видеоиграми. Скоро появится технология, благодаря которой эти новые миры будут вызывать зависимость, сравнимую с наркотической.
Если искусственный интеллект и роботы совершат переворот на рынке труда и возможности трудоустройства исчезнут или качественно ухудшатся, властям в конечном итоге придется предложить гражданам помощь в той или иной форме (например, безусловный базовый доход), чтобы сохранить общественный порядок. Однако, если при этом люди перестанут высоко ценить образование и потеряют чувство осмысленности жизни, результатом будет всеобщая апатия и отстраненность. Мы рискуем превратиться в общество, расколотое на немногочисленную элиту, живущую в реальном мире, и массы, находящие убежище в технологической фантазии или иных формах зависимости. В конце концов мы получим необразованное население, намного менее инклюзивную и эффективную демократию и замедленный темп инноваций, поскольку многие талантливые люди, погрузившиеся в более притягательный виртуальный мир, уже не будут видеть причины для борьбы за успех в реальном мире. При таком сценарии преодолеть стоящие перед нами глобальные проблемы станет намного труднее.
Думаю, почти все согласятся, что нам нужно стремиться к будущему, больше похожему на «Звездный путь». Однако оно не придет само собой. Нам необходимо выработать ясную политику движения в этом направлении. По всей вероятности, увидеть желаемые результаты удастся очень нескоро, но если мы хотя бы начнем решать проблему распределения дохода, не лишая людей стимула повышать образование и добиваться значимых целей, то сделаем шаг в верном направлении.
