НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

Форма жизни № 4

Полит.ру знакомит читателей с книгами, вошедшими в длинный список претендентов на премию «Просветитель» 2022 года. Всего на конкурс было прислано 220 научно-популярных изданий, из которых отборочный комитет был вынужден выбрать только 16 книг. Короткий список премии «Просветитель» будет объявлен в октябре 2022 года. Лауреатов книжных премий «Просветитель» и «Просветитель.Перевод», а также победителя в новой номинации «ПолитПросвет» наградят 22 декабря, в годовщину смерти основателя премий Дмитрия Борисовича Зимина.

Издательство «Альпина Паблишер» представлено в списке книгой Евгения Черешнева «Форма жизни № 4. Как остаться человеком в эпоху расцвета искусственного интеллекта».

Форма жизни № 4 — это люди, усиленные имплантами и искусственным интеллектом. Речь идет о недалеком будущем: уже сегодня машины могут безостановочно обучаться, ИИ становится умнее и дешевле, а спектр его возможностей расширяется с каждым днем. Евгений Черешнев — визионер, первый российский ИТ-спикер TED New York, предприниматель и бионик — описывает ИИ как ступень в эволюции жизни на нашей планете. Автор проанализировал историю думающих машин и современных методов анализа данных, рассказал о влиянии автоматизации на социум, семью, экономику и геополитику, об инструментах защиты от трекинга и цифровых угроз. А главное — он показал, как может выглядеть мир ХХII века, где никто не сможет отключиться от глобальной сети, а нужда во многих сферах человеческой деятельности полностью отпадет. Чтобы не стать рабами в мире разумных роботов, нужно помнить о машинной этике, установить правила сбора и анализа данных и, что важнее всего, понять, как устроен и развивается искусственный разум. Об этих и многих других аспектах ИИ рассказывает эта книга.

Предлагаем прочитать фрагмент книги.

 

Глава 5
В которой я вживляю себе в руку биочип ради правды об интернете вещей

Прежде чем начать описывать типы данных, что о нас собирают все кому не лень, я хочу рассказать вам собственную историю — как я пришел к пониманию глубины проблем, связанных с личными данными. До того, как основать свою компанию, я более пяти лет был топ-менеджером в индустрии кибербезопасности. Это стало причиной определенной профессиональной деформации: ведь, когда сидишь в передовом окопе интернета и первым видишь все угрозы — вирусы, кибероружие, ИИ на службе преступных группировок и хакеров, выводящих из строя центрифуги для обогащения урана, поневоле начинаешь становиться параноиком. Это сослужило мне хорошую службу.

Вся история развития индустрии кибербезопасности — это летопись противоборства брони и снаряда: хакеры постоянно придумывают оригинальные трюки, защитники изобретают ответные меры и пытаются уйти на шаг вперед. Так продолжается бесконечно, так было, есть и будет. Black Hat — крупнейшая в мире конференция по кибербезопасности, уникальное место, чем-то напоминающее космопорт планеты Татуин из «Звездных войн» или Блук из мультфильма «Тайна третьей планеты» по повести Кира Булычёва: вокруг тысячи людей из сотни стран, на вид добрые, приветливые и улыбчивые, но на деле все носят маски: «белые» хакеры, взламывающие сети во имя добра*, «черные» хакеры, скрывающиеся под вымышленными именами, сотрудники всех на свете спецслужб, маскирующиеся под зевак, журналистов и бизнесменов, хактивисты, адвокаты, какие-то пронырливые личности. Причем «ломают» тут всё и всех. Бывали случаи, когда «внезапно» переставали работать лифты отелей с ключевыми спикерами внутри, рекламные щиты начинали показывать порно, проекторы проецировали на стены «списки позора» посетителей, чьи цифровые личности взломали на выставке из-за того, что те не уделяли внимания киберзащите. Эти списки включали в себя имена, контакты, место работы, частную переписку и номера кредитных карт.

Периодически прямо на конференции появляется спецназ ФБР с мегафонами и автоматами — группа захвата SWAT с помпой проводит задержание именитого хакера, которого удалось вычислить спустя годы оперативной работы. Всегда весело! Одна из главных ценностей мероприятия в том, что четыре дня перед официальным началом в помещениях конференции идут профессиональные тренинги лучших в мире экспертов по взлому и защите — можно научиться чему-то очень конкретному на практике. Взламывать приложения для Android, защищать роутеры корпорации, в которой работают 50 000 человек, пользоваться социальным инжинирингом для манипуляций человеческим поведением, обходить защиту доменной учетной записи Windows, научиться быть невидимым в Сети… можно выбрать любой из десятков уникальных образовательных курсов.

Я регулярно посещаю их, чтобы не стоять на месте и профессионально развиваться. Летом 2014 года я в очередной раз по работе оказался на Black Hat. На одном из занятий по поиску уязвимостей в медицинских устройствах тренер показал результаты своего исследования возможности взлома конкретного типа устройств. Он, будучи диабетиком, жил с беспроводной инсулиновой помпой — небольшим устройством, что крепится к телу гипоаллергенным пластырем, настраивается через смартфон и самостоятельно вводит под кожу инсулин в течение дня. Так вот, он показал, что даже не очень опытный хакер может в теории обойти защиту помпы и ввести летальную дозу инсулина, имея все шансы избежать наказания за убийство. Я помню, что его вывод взорвал мне мозг. Именно в тот момент я понял, что вся эффектная реклама интернета вещей (Internet of Things, или IoT) — лишь красочная ширма, а за ней скрываются проблемы, о которых никто не хочет говорить, ибо их решение требует крайне высокого уровня компетенций и массы усилий. Я был уверен, что вопросы киберзащиты в тех же медицинских девайсах стоят на первом месте; оказалось, это не так: программисты и маркетологи — это в большинстве своем представители разных биологических форм жизни из разных частей Галактики, они говорят на разных языках и редко способны понять друг друга. Маркетологи продают продукт, поэтому техническая лексика системных инженеров, изобилующая жаргонными словечками вроде «пентест» (проверка продукта на устойчивость к взлому), «багхантинг» (программа премирования фрилансеров-хакеров за найденные уязвимости), zero-day (невыявленная на стадии тестирования и неустраненная уязвимость в коде) их раздражает — они не хотят думать о проблемах, ибо их нельзя включить в рекламный буклет. Разработчиков же, в свою очередь, изрядно бесит терминология «маркетинговой воронки», «вау-эффектов» и «роста прибыли за счет снижения издержек», особенно в том случае, когда кибербезопасность с точки зрения издержек имеет меньшую важность, чем дизайн упаковки. От тяги маркетологов продавать сырые и недоработанные с точки зрения безопасности продукты у инженеров попросту коротит мозги.

Результат этой пропасти между мирами — постоянная битва за то, что важно при работе над продуктом. Поскольку департаменты продаж и маркетинга в компаниях де-юре отвечают за прибыль, то и споры о том, на что лучше тратиться, они выигрывают гораздо чаще. Технарей же просят не паниковать и фокусироваться в первую очередь на том, что пользователь видит каждый день. Это они и делают. Так и живем — все вроде бы хорошо выполняют свою работу, но по факту огромное количество дыр в кибербезопасности не уменьшается, а наоборот — растет.

После тренинга я начал более тщательно изучать вопрос безопасности IoT, пытаясь понять, насколько «дырявость» — повсеместное явление. Оказалось — куда ни плюнь, везде засада. Например, два эксперта по безопасности Чарли Миллер и Крис Валасек в июле 2015-го наглядно продемонстрировали, что не только беспилотные, но даже обычные автомобили потенциально крайне опасны: они смогли удаленно получить доступ к бортовому компьютеру новенького Jeep Cherokee и довести до истерики журналиста журнала Wired Энди Гринберга, который был за рулем и пытался сохранить самообладание в ситуации, когда его машину могли в любой момент отправить в кювет. Дырявая защита многих дронов-квадрокоптеров позволяет перехватывать управление и угонять их, игровые приставки и стриминговые сервисы ломали не раз, Apple и Microsoft рапортуют о новых устраненных уязвимостях практически каждый день… Хакеры не раз взламывали электрокардиостимуляторы для сердечников, демонстрируя возможность убийства их пользователя. Бывший вице-президент США Дик Чейни признался, что отключил беспроводной интерфейс своего кардиостимулятора еще в 2007 году, когда понял, что злоумышленники теоретически могут удаленно взломать его и убить. Подобная возможность была обыграна сценаристами в одном из эпизодов нашумевшего сериала «Родина». Но всё это меркнет на фоне нашумевшего случая со взломом и выводом из строя центрифуг для обогащения урана в иранской ядерной программе при помощи кибероружия Stuxnet, обнаруженного в июне 2010-го. Вот уж где стало страшно — потенциал масштабной экологической катастрофы оказался в руках группы людей, удаленно нажимающих кнопки на клавиатуре, — никаких ракет или ударов с авианосцев, код работал тихо и незаметно.

Я изучал все эти и другие примеры, и оптимизм по поводу светлого будущего, априори присущий всем, кто работает в индустрии ИТ, начал постепенно сменяться пульсирующей тревогой. Стало очевидно, что мы к глобальному внедрению интернета вещей попросту не готовы — в мире огромное количество разрозненных стандартов и протоколов, в которых хакеры могут легко сверлить свои дыры; отсутствует поставленное на поток обучение высокоуровневых экспертов по кибербезопасности в нужных миру объемах, и, как следствие, ощущается их хроническая нехватка; распространена банальная лень или отсутствие нужной квалификации сисадминов, не закрывающих дыры в системах, даже когда о них хорошо и заранее известно.

Огромная недофинансированность индустрии защиты многократно демонстрируется на практике (затраты компании на маркетинг могут в тысячи раз превышать расходы на обеспечение безопасности существующих клиентов) — и всё это безобразие происходит на фоне постоянной тотальной слежки за каждым пользователем сети через телефоны, сервисы и приложения с последующей продажей и перепродажей данных и поведенческих портретов (это не считая хакерских краж номеров кредитных карт, кредитных рейтингов и цифровых личностей). Как можно ситуацию, в которой человека в любой момент могут обворовать, отследить каждую его мысль, клик или перемещение, подделать его поведение или даже убить через дистанционно управляемое устройство, можно назвать светлым будущим?

До той роковой поездки на Black Hat я довольно много сил уделял попыткам обучения и оповещения пользователей сети об окружающих угрозах и потенциальных инструментах защиты. Но, глядя на взломанную инсулиновую помпу и представляя разрушенные ядерные центрифуги, я понял, что мои усилия, как и усилия многих коллег по индустрии — это пшик, не более чем еле заметный шум в общем информационном пространстве: в мире тысячи экспертов по любому вопросу, в том числе по кибербезопасности, масса ток-шоу, блог-постов, призывающих что-то менять, но обычно дальше слов дело не идет. Ведь если у человека нет лично пережитого опыта, он много теоретизирует, но мало знает, а следовательно, грош цена такому мнению. Мне же захотелось реально что-то изменить: жизнь коротка, и надо потратить ее на то, что поможет нашим детям и внукам выжить. А если повезет — и пожить, помогая Вселенной развиваться, усложняться и совершенствоваться. И для этого мне мало было просто иметь мнение, нужен был личный опыт, нечто осязаемое, на своей шкуре испробованное.

Чтобы привлечь внимание к проблеме безопасности интернета вещей, управляющего им искусственного интеллекта и, что важнее, к практике абсолютного пренебрежения правом на неприкосновенность личного пространства в сети (оно же приватность), я решил пойти на радикальный шаг — стать частью интернета вещей, постоянно подключенным к сети человеком. То есть на себе испытать, с какими эмоциями будут ложиться спать наши навсегда интегрированные в сеть внуки. Для этого я решил вживить в руку биочип. Смысл такой же, как у высадки человека на Луну: до того, как Нил Армстронг ступил на серую пыльную поверхность спутника Земли, десятки тысяч ученых теоретизировали, как может выглядеть прогулка по Луне. У Нила не было своего мнения, у него появился реальный опыт, который перевешивал сотни тысяч гипотез теоретиков. Вот и я сегодня слушаю многие высказывания экспертов об IoT с изрядной долей здорового сарказма, потому что многие рассуждают об этих устройствах, думая и надеясь, что к их личной безопасности проблемы каких-то там инсулиновых помп, умных телевизоров или дронов отношения иметь не будут. Они видят только деньги. Я же знаю наверняка, что проблем море и они касаются каждого. Небольшой подкожный микрочип размером 2×12 миллиметра с антенной и памятью, упакованными в гипоаллергенное биостекло, открыл мне дорогу в Страну чудес Льюиса Кэрролла — чем глубже я падал в кроличью нору (больше узнавал), тем больше неизвестного мне открывалось.

Любопытно, что сама идея вживить биочип пришла немного незапланированно — после очередного глобального мероприятия по кибербезопасности я сидел в пабе с другом, шведом Повелом Торуддом, на тот момент главой европейской пресс-службы Kaspersky, обсуждая с ним проблемы индустрии. Я в тот момент возглавлял мобильный бизнес компании и международный маркетинг. Где-то к двум часам ночи, выпив по несколько пинт эля, мы, собственно, и осознали, что единственный способ получить действительно уникальное и действенное знание об интернете вещей — это приобрести личный опыт интеграции в него в качестве научного эксперимента. Мы на салфетках начали рисовать разные способы этой самой интеграции и под утро, когда в ход пошел уже 24-летний Macallan, идея с биочипом казалась мне совершенно гениальной.

Обычно такие ночные брейнстормы ни к чему конкретному не ведут, — уверен, в вашей жизни нетрезвые споры тоже случались, но в этот раз всё пошло иначе: я проснулся полным уверенности в правильности выбранного пути, и мы начали действовать. Наметили место и время имплантации, выбрали чип из доступных технологий на рынке, продумали стратегию. Самым сложным было найти врача, который должен был согласиться имплантировать крипточип живому человеку. Изначально мы хотели сделать это в США, но все врачи крутили у виска и отказывались, ибо страховые риски ни одна компания на себя брать не была готова. И тогда… пришлось обратиться к помощи мексиканского мастера пирсинга, который послушал рассказ про нашу задачу, что-то долго считал и в итоге сказал: «Ммм, крипточип? Это будет дорого — 50 баксов, гринго». Вместо анестезии была предложена текила. С мастером пирсинга можно было начать эксперимент с минимумом проволочек и всего за $50 — мечта любого исследователя.

Сама процедура прошла очень легко — я заблаговременно проконсультировался с врачом и выяснил, что между большим и указательным пальцами находится очень мало нервных окончаний, поэтому при имплантации сюда не больно.

 

Рис. 2. Мексиканский мастер пирсинга вживляет мне крипточип

 

Рис. 3. Место вживления

 

*Существует три основных класса хакеров: «белый» (white hat) — тот, кто взламывает ради информирования человека или компании об угрозе, «черный» (black hat) сознательно идет на преступление, и вопросы морали его не волнуют, «серый» (grey hat) нацелен на решение задачи, как правило полезной и правильной, но не всегда действует в рамках закона и морали.

 

Ранее в рубрике «Медленное чтение» были представлены следующие книги, вошедшие в длинной список премии «Просветитель»:

Елена Белова. Автостопом по мозгу. Когда вся вселенная у тебя в голове. — М.: Бомбора, 2022.

Мария Бурас. Лингвисты, пришедшие с холода. — М.: АСТ; Редакция Елены Шубиной, 2022.

Олег Будницкий. Другая Россия. Исследования по истории русской эмиграции. — М.: Новое литературное обозрение, 2021.

Андрей Десницкий. Библия. Что было «на самом деле»? (Танах / Ветхий Завет). — М.: Альпина нон-фикшн, 2022.

Андрей Журавлёв. Похождения видов. Вампироноги, паукохвосты и другие переходные формы в эволюции животных. — М.: Альпина нон-фикшн, 2022.

Мария Кондратова. Невидимый страж. Как иммунитет защищает нас от внешних и внутренних угроз. — М.: Альпина нон-фикшн, 2022.

Наталья Конрадова. Археология русского интернета. Телепатия, телемосты и другие техноутопии холодной войны. — М.: CORPUS, 2022.

Михаил Майзульс. Воображаемый враг. Иноверцы в средневековой иконографии. — М.: Альпина нон-фикшн, 2022.

Александр Марков, Елена Наймарк. Эволюция человека. В 3 кн. Кн. 3. Кости, гены и культура. — М: CORPUS, 2022.

Владимир Согрин. Американская двухпартийность. От Джорджа Вашингтона до Джо Байдена. — М.: Весь мир, 2022.

Галина Ульянова. Купчихи, дворянки, магнатки. Женщины-предпринимательницы в России XIX века. — М.: Новое литературное обозрение, 2021.

Ольга Филатова. Облачно, возможны косатки. — М.: Альпина нон-фикшн, 2022.

Михаил Фоминых. Пять литров красного. Что необходимо знать о крови, ее болезнях и лечении. — М.: Альпина Паблишер, 2022.

Редакция

Электронная почта: [email protected]
VK.com Twitter Telegram YouTube Яндекс.Дзен Одноклассники
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2022.