22 июля 2019, понедельник, 21:17
VK.comFacebookTwitterTelegramInstagramYouTubeЯндекс.Дзен

НОВОСТИ

СТАТЬИ

PRO SCIENCE

МЕДЛЕННОЕ ЧТЕНИЕ

ЛЕКЦИИ

АВТОРЫ

СМИ и восстание машин

Новые технологии
Новые технологии

Bloomberg обратился к теме контроля над новыми технологиями. Для этого он приводит опубликованный в конце июля отчет на основе исследования, проведенного американскими учеными.

Люди пытаются контролировать свое взаимодействие, в том числе технологическое, объясняет автор ситуацию. Для этого они используют законы, общественные нормы, международные соглашения. Конечная цель этих инструментов в том, чтобы найти такие правила поведения, чтобы они обеспечили стабильность в виде стратегического равновесия, или равновесия Нэша, как это называется в теории игр.

Чтобы достичь такого равновесия, нужно, чтобы все игроки понимали последствия своих действий и действий других игроков. За счет этого, например, во время холодной войны поддерживался мир между ядерными державами. Всех участников объединяло осознание того, что любая атака может привести к всеобщему уничтожению. Аналогичным образом международные законы и переговоры можно рассматривать как постепенное исследование возможных шагов с целью установить стабильную рамку, состоящую из правил, приемлемых для каждого — так, чтобы ни у кого не было стимула эти правила нарушать.

 
Испытания ядерного оружия / pixabay.com

Такого рода равновесие долгое время поддерживалось в сфере технологий. Однако сейчас его поддержание становится все более трудной задачей. Это связано с тем, что технологии становятся слишком сложными и развиваются слишком быстро, чтобы люди могли в точности просчитать последствия тех или иных новых действий. Упомянутые ученые по итогам исследования пришли к заключению, что сама концепция стратегического равновесия как организующего принципа, возможно, уже устарела.

Их выводы строятся на основе вычислений для игр со множеством игроков и множеством возможных вариантов действия. Один из главных выводов состоит в том, что следует разделять две системы — стабильную и нестабильную. Разграничение зависит от уровня сложности. Ниже определенного уровня равновесие Нэша вполне работает. Однако выше находится зона хаоса, где ни один игрок никогда не сможет найти стабильную и надежную стратегию, а будет бесконечно менять свое поведение крайне непредсказуемым образом.

В практическом смысле создание такой хаотической ситуации наиболее вероятно в сфере развивающихся технологий, касающихся вычислений, программных разработок и биотехнологий. Обычно технологические риски компенсируются регулированием. Однако технологии скоро начнут обгонять регулирование, и тогда стратегическая рамка может отказать.

СМИ в последнее время полюбили тему восстания машин. В конце июля и начале августа широко обсуждалась история о двух ботах в Facebook, якобы изобретших свой собственный (вариант: еще и секретный) язык. Вполне серьезные издания вроде The Atlantic начали публиковать лирические рассуждения о том, что мы, вероятно, стали свидетелями рождения языка будущего. Потом ситуация усугубилась тем, что Facebook отключил ботов. Это дало новый повод поговорить о могуществе и угрозе выходящего из-под контроля искусственного интеллекта.

 
Андроид и человек / pixabay.com

Специфика ажиотажа была в том, что лежавшие в его основе события были гораздо более прозаичными, чем порожденные ими спекуляции. Нового языка эти боты не изобретали. По замыслу, они должны были учиться говорить в процессе взаимодействия с людьми. После того как они повзаимодействовали друг с другом, они тоже научились, но уже неправильно, потому что стали вместо совершенствования повторять ошибки друг друга. В итоге их отключили, потому что от них требовалась не генерация абсурдных сочетаний, а понятная человеческая речь.

Обсудите в соцсетях

Система Orphus

Главные новости

20:57 Великобритания собралась увеличить военное присутствие у берегов Ирана
20:46 ОБСЕ признала выборы в Верховную раду успешными
20:26 Правительство РФ поддержало запрет на электронные сигареты
19:54 Количество отравившихся едой из автоматов в Москве достигло 80 человек
19:40 Власти Индии предложили ввести полный запрет на криптовалюты
19:14 Путин предоставил гражданство РФ американскому зампреду правления «НОВАТЭК»
18:52 Госдуме предложили разрешить розничную продажу пива на стадионах
18:41 Банк «Россия» потребовал у Utair через суд вернуть 155 млн рублей
18:19 Определен соперник «Спартака» в Лиге Европы УЕФА
17:55 У россиян увеличилось количество свободных денег
17:39 Мосгоризбирком опроверг массовую отбраковку подписей из-за номера паспорта
17:16 Мосгорсуд вынес приговор за разглашение гостайны
17:03 Минфин велел вернуть неистраченные деньги на ликвидацию паводка в Иркутской области
16:57 Чемезов заявил о 80% контрафактной воды в регионах
16:47 Президент Путин отменил санкции в отношении Эритреи
16:35 Лукашенко призвал ЕС «устранить головную боль» на Украине
16:13 Партия Зеленского сохранила отрыв после отработки большей части протоколов
15:59 Производитель сообщил о падении выручки от продаж SSJ-100 в 7 раз
15:34 «Краснодар» проведет дебютный матч с «Порту» в Лиге чемпионов
15:10 Осужденная за картинки в соцсетях студентка отсудила у РФ 100 тысяч рублей
14:47 Индийцы вывели аппарат «Чандраян-2» на нерасчетную орбиту
14:37 Обвиняемый в краже картины Куинджи оплатил ее реставрацию
14:17 Директора ФБК Ивана Жданова задержали у мэрии в Москве
13:49 Партия Зеленского сумела упрочить свое лидерство на выборах в Раду
13:27 Фильм «Мстители: Финал» стал самым кассовым за всю историю
13:21 Не стало гендиректора МАГАТЭ Юкия Амано
13:10 Депутат Госдумы предложил ограничить наценку на питьевую воду
13:00 Российский наездник подтвердил свою эффективность в борьбе с опасным вредителем
12:55 В Россельхознадзоре отказались от ужесточения правил провоза багажа
12:38 Рок-фестиваль «Нашествие» посетили около 200 тысяч человек
12:28 Независимые кандидаты в Мосгордуму собираются всю неделю пикетировать мэрию
12:03 Полиция ХМАО задержала мужчину с самодельной бомбой
11:49 Москвичи попросили проверить размещение штаба Навального в подвале жилого дома
11:39 Спецслужбы заявили об аресте 17 шпионов ЦРУ в Иране
11:21 Савченко не смогла попасть в украинский парламент нового созыва
11:12 Партия Зеленского обошла конкурентов на выборах в Верховную Раду
10:59 Китайские инвестиции в США при Трампе сократились на 90%
10:46 Средний размер потребкредита в России вырос почти на 7% за год
10:30 Новый вид деревьев открыт в Танзании
10:29 В России разработана стратегия развития торговли до 2025 года
10:14 Составлен рейтинг самых угоняемых автомобилей в России
09:57 В НИИ Склифосовского рассказали о состоянии Инны Чуриковой
09:46 Аналитики предсказали замедленное развитие мобильных сетей 5G
09:33 СМИ узнали о несоответствии половины зоопарков России новому ГОСТу
09:31 Вещество из кожуры винограда поможет покорителям Марса предотвратить атрофию мышц
09:30 Царапины на найденных в Китае костях приписывают денисовцам
09:15 Самолет Utair вернулся в Тюмень из-за датчика неисправности шасси
08:58 На выборах в Раду за пределами Украины победила партия Зеленского
08:46 Задержаны подозреваемые в краже 12 млн рублей у пенсионеров
08:29 Судьбу арт-объекта Покраса Лампаса в Екатеринбурге решат местные чиновники
«АвтоВАЗ» «ВКонтакте» «Газпром» «Зенит» «Мемориал» «Мистраль» «Оборонсервис» «Роснефть» «Спартак» «Яблоко» Абхазия Австралия Австрия Азербайджан Антимайдан Аргентина Арктика Армения Афганистан Аэрофлот Башкирия Белоруссия Бельгия Бразилия ВВП ВКС ВМФ ВПК ВТБ ВЦИОМ Ватикан Великобритания Венесуэла Владивосток Внуково Волгоград ГИБДД ГЛОНАСС Генпрокуратура Германия Голливуд Госдеп Госдума Греция Гринпис Грузия ДТП Дагестан Домодедово Донецк ЕГЭ ЕСПЧ Евровидение Еврокомиссия Евромайдан Евросоюз Египет Екатеринбург ЖКХ Израиль Ингушетия Индия Индонезия Интерпол Ирак Иран Испания Италия Йемен КНДР КПРФ Казань Казахстан Калининград Камчатка Канада Каталония Кемерово Киев Киргизия Китай Коми Конституция Кремль Крым Куба Курилы ЛГБТ ЛДПР Латвия Ливия Литва Лондон Луганск МВД МВФ МГУ МКС МОК МЧС Малайзия Мексика Мемория Минздрав Минкомсвязи Минкульт Минобороны Минобрнауки Минпромторг Минсельхоз Минтранспорта Минтруд Минфин Минэкономразвития Минэнерго Минюст Молдавия Мосгорсуд Москва НАСА Нигерия Нидерланды Новосибирск Норвегия ОБСЕ ООН ОПЕК Одесса ПДД Пакистан Паралимпиада Париж Пентагон Польша Право Приморье Продовольствие РАН РЖД РПЦ РФС Росавиация Роскомнадзор Роскосмос Роспотребнадзор Россельхознадзор Россия Росстат СМИ СССР США Сахалин Сбербанк Севастополь Сербия Сирия Сколково Славянск Сочи Таджикистан Таиланд Татарстан Трансаэро Турция УЕФА Узбекистан Украина ФАС ФБР ФИФА ФСБ ФСИН ФСКН Филиппины Финляндия Франция Харьков ЦИК ЦРУ ЦСКА Центробанк Чехия Чечня Швейцария Швеция Шереметьево Эбола Эстония ЮКОС Якутия Яндекс Япония авиакатастрофа автопром алкоголь амнистия армия археология астрономия аукционы банкротство беженцы бензин беспилотник беспорядки биатлон бизнес бокс болельщики вандализм взрыв взятка вирусы вузы выборы гаджеты генетика гомосексуализм госбюджет госзакупки госизмена деньги дети доллар допинг драка евро журналисты законотворчество землетрясение импорт инвестиции инновации интернет инфляция ипотека искусство ислам исследования история казнь кино кораблекрушение коррупция космос кража кредиты культура лингвистика литература медиа медицина метро мигранты монархия мошенничество музыка наводнение налоги нанотехнологии наркотики наука недвижимость некролог нефть образование обрушение общество ограбление оппозиция опросы оружие офшор палеонтология педофилия пенсия пиратство планетология погранвойска пожар полиция похищение правительство православие преступность происшествия ракета рейтинги реклама религия ретейл рубль санкции связь сепаратизм следствие смартфоны социология спецслужбы спутники страхование стрельба строительство суды суицид тарифы театр телевидение теракт терроризм технологии транспорт туризм убийство фармакология физика фоторепортаж футбол хакеры химия хоккей хулиганство цензура школа шпионаж экология экономика экспорт экстремизм этология «Единая Россия» «Исламское государство» «Нафтогаз Украины» «Правый сектор» «Северный поток» «Справедливая Россия» «болотное дело» Александр Лукашенко Александр Новак Александр Турчинов Алексей Кудрин Алексей Навальный Алексей Улюкаев Амурская область Анатолий Сердюков Ангела Меркель Антон Силуанов Аркадий Дворкович Арсений Яценюк Барак Обама Басманный суд Башар Асад Белый дом Борис Немцов Валентина Матвиенко Верховная Рада Верховный суд Виктор Янукович Виталий Мутко Владимир Жириновский Владимир Зеленский Владимир Маркин Владимир Мединский Владимир Путин Вячеслав Володин Дальний Восток День Победы Дмитрий Медведев Дмитрий Песков Дмитрий Рогозин Дональд Трамп Евгения Васильева Забайкальский край Интервью ученых Ирина Яровая Иркутская область История человечества Кирилл Серебренников Конституционный суд Космодром Байконур Краснодарский край Красноярский край Ксения Собчак Ленинградская область МИД России Мария Захарова Михаил Прохоров Михаил Саакашвили Михаил Ходорковский Московская область Мурманская область Надежда Савченко Николас Мадуро Нобелевская премия Новосибирская область Новый год Олимпийские игры Ольга Голодец Павел Дуров Палестинская автономия Папа Римский Первый канал Пермский край Петр Порошенко Почта России Приморский край Рамзан Кадыров Реджеп Эрдоган Республика Карелия Ростовская область Саратовская область Саудовская Аравия Свердловская область Сергей Лавров Сергей Нарышкин Сергей Полонский Сергей Собянин Сергей Шойгу Следственный комитет Совбез ООН Совет Федерации Ставропольский край Счетная палата Тереза Мэй Франсуа Олланд Хабаровский край Хиллари Клинтон Челябинская область Черное море Эдвард Сноуден Элла Памфилова Эльвира Набиуллина Южная Корея Юлия Тимошенко Юрий Чайка авторское право администрация президента акции протеста атомная энергия баллистические ракеты банковский сектор биология большой теннис визовый режим военная авиация выборы губернаторов газовая промышленность гражданская авиация гуманитарная помощь декларации чиновников дороги России информационные технологии климат Земли компьютерная безопасность космодром Восточный крушение вертолета легкая атлетика лесные пожары междисциплинарные исследования мобильные приложения морской транспорт некоммерческие организации общественный транспорт патриарх Кирилл пенсионная реформа пищевая промышленность права человека правозащитное движение преступления полицейских публичные лекции российское гражданство русские националисты русский язык сельское хозяйство сотовая связь социальные сети стихийные бедствия телефонный терроризм уголовный кодекс фигурное катание финансовый рынок фондовая биржа химическое оружие эволюция экономический кризис ядерное оружие Великая Отечественная война Вторая мировая война Ирак после войны Ким Чен Ын Революция в Киргизии Российская академия наук Стихотворения на случай Федеральная миграционная служба Федеральная таможенная служба борьба с курением выборы мэра Москвы здравоохранение в России связь и телекоммуникации тюрьмы и колонии Совет по правам человека аварии на железной дороге естественные и точные науки закон об «иностранных агентах» видеозаписи публичных лекций «Полит.ру» Новые технологии, инновации Сочи 2014 Кабардино-Балкария Левада-Центр Нью-Йорк Санкт-Петербург отставки-назначения шоу-бизнес Ростов-на-Дону ЧМ-2018 Компьютеры, программное обеспечение Книга. Знание ВИЧ/СПИД Apple Bitcoin Boeing Facebook G20 Google iPhone IT NATO PRO SCIENCE видео ProScience Театр Pussy Riot Telegram Twitter Wikileaks

Редакция

Электронная почта: [email protected]
Телефон: +7 929 588 33 89
Яндекс.Метрика
Свидетельство о регистрации средства массовой информации
Эл. № 77-8425 от 1 декабря 2003 года. Выдано министерством
Российской Федерации по делам печати, телерадиовещания и
средств массовой информации. Выходит с 21 февраля 1998 года.
При любом использовании материалов веб-сайта ссылка на Полит.ру обязательна.
При перепечатке в Интернете обязательна гиперссылка polit.ru.
Все права защищены и охраняются законом.
© Полит.ру, 1998–2019.