Угроза использования ААС, робототехники и информационных технологий деструктивными организациями
Расширяющиеся возможности использования деструктивными организациями достижений информационных технологий, плодов Третьей производственной революции, в том числе ААС и робототехники в условиях системного кризиса глобального хозяйства, социума и политикума создают новые неотвратимые угрозы со стороны террористов, преступников и экстремистов.
Детальный анализ с использованием как количественных, так и когнитивных методов позволил выделить наиболее опасные и труднопарируемые угрозы. При этом не ставилась задача их ранжирования. Ранжирование угроз зависит от конкретной ситуации в тот или иной период времени как в глобальных масштабах, так и в разрезе стран и отдельных регионов.
Ослабление карающей силы закона. Развитие высоких технологий, и в частности ААС и робототехники, базирующихся на информационных решениях, с каждым годом все сильнее подрывает действенность закона, его карающую силу, особенно в развитых государствах.
Действенность закона прямо зависит не только от справедливости суда и соразмерности преступления и наказания, но и от неотвратимости карающих мер за те или иные правонарушения. Однако цифры показывают, что уже сегодня, а тем более завтра, у высокотехнологичных, прежде всего компьютерных и робототехнических преступников все больше шансов оставаться безнаказанными .
В первую очередь это связано с недостатками в работе различного рода правоохранительных органов – полиции, контрразведки, антитеррористических подразделений. Согласно независимо подтвержденным цифрам из официальных и неофициальных источников, средний процент раскрываемости преступлений в 2014 г. в медианных по уровню правонарушений районах крупных городов США составлял более 70 %. В то же время процент раскрываемости высокотехнологичных, в своей массе компьютерных, преступлений в этих же городах – около 11 %. Т. е. компьютерный преступник имеет в 7 раз меньше шансов понести наказание за свое правонарушение, чем преступник, если можно так выразиться, традиционный.
|
|
|
Дополнительно есть данные о том, что полиция старается не открывать дела по заявлениям, связанным с компьютерными преступлениями, уговаривая заявителей отказаться от них. В качестве аргумента приводятся соображения, что слишком мало шансов, что преступление будет раскрыто, а преступники наказаны. Согласно экспертным оценкам некоторых действующих и бывших работников полиции крупных американских городов, число непринятых или отозванных заявлений в 2-3 раза превышает число дел, принятых к рассмотрению. С учетом этой цифры оказывается, что у преступников, использующих высокие технологии, включая ААС и робототехнику, почти в 20 раз больше шансов быть непойманным, чем пойманным. Естественно это порождает у преступников уверенность в собственной безопасности и одновременно деморализует правоохранительные органы и общество.
|
|
|
Причин такой ситуации достаточно много. Главными из них являются гораздо худшая оснащенность правоохранительных органов программно-аппаратными средствами, более низкий уровень квалификации в сфере информационных технологий, объективные затруднения, связанные со сбором доказательств, а также юрисдикционный характер деятельности правоохранительных органов в ситуации межрегиональной и трансграничной высокотехнологической преступности.
Вторая причина, ведущая к ослаблению закона, связана с принципиально различной ситуацией в сфере обеспечения безопасности в реальном мире и киберсреде. Как известно, ААС и роботы в подавляющей своей части связаны между собой и с центральными серверами через сеть, в основном – интернет. Также известно, что коммуникационные решения для интернета вещей, в который включаются роботы, отличаются незащищенностью. Они, как правило, базируются на открытых протоколах и слабо защищенной шифрованной связи, которая без труда подвержена взлому. Иными словами, если традиционные бытовые устройства, станки, производственные линии находятся под защитой, будучи отделенными от внешнего пространства физическими препятствиями, то вполне физические объекты, к которым относятся роботы и ААС, могут выполнять свои функции только благодаря наличию у них программного обеспечения и в подавляющем большинстве случаев, внешнего телекоммуникационного канала. А здесь, по сути, никаких препятствий и ограничений не существует. Нельзя требовать соблюдения и исполнения закона в среде, которую нельзя защитить. Это нонсенс.
|
|
|
Любые принимаемые законодателями меры и новые правовые акты, чем дальше, тем больше будут повисать в воздухе, и представлять собой не руководство к действию, а ненужные тексты. Это происходит вследствие того, что в цифровой среде, в отличие от реального мира, не существует технологической инфраструктуры соблюдения закона и обеспечения его действия.
Дело зашло сегодня столь далеко, что даже не подключенные к интернету, а замкнутые на хорошо защищенные корпоративные сети роботы могут стать орудием, а в каком-то смысле и субъектом преступления. В 2014 г. в США было впервые раскрыто преступление, которое с известной долей преувеличения осуществил не человек, а робот. Причем в сфере не физического воздействия, а кражи интеллектуальной собственности. В одной из крупнейших автомобильных корпораций был разработан и испытан принципиально новый вид аккумуляторов, позволяющий преодолеть известное ограничение подзарядки для электромобилей. Вскоре после этого выяснилось, что все патентные документы и конструкторская документация этого ключевого изобретения, которое по оценкам компании могло принести ей несколько миллиардов долларов, оказалась в распоряжении одного из азиатских автопроизводителей. Спустя несколько месяцев в результате цепи случайностей, а не целенаправленного расследования, выяснилось, что преступная группа вступила в сговор с одним из работников компании, производящей элемент управляющего блока роботов, используемых на сборочных линиях автомобильной компании. В аппаратную часть было заложено шпионское программное обеспечение, которое согласно программе было активировано, когда робот был собран из модулей, поставлен в американскую компанию-производитель и приступил к работе. После этого, благодаря роботу, заключенное в нем шпионское программное обеспечение проникло в корпоративную сеть, с которой был соединен робот. В корпоративной сети программное обеспечение распознало файл с нужной документацией. После чего, используя опять же робота, оно активировало второго трояна, который создал уязвимость корпоративной сети изнутри, использованную для отправки нужных файлов преступной группе. Преступная группа передала нужные файлы заказчику – азиатскому автопроизводителю.
|
|
|
Дополнительной сложностью в соблюдении законов в части раскрытия преступлений самого различного типа – от убийств до кражи интеллектуальной собственности – создает то, что любые высокотехнологичные преступления на порядки легче, чем преступления в обычном мире, замаскировать под техногенные катастрофы, технологические отказы, неисправности и т. п.
Известно, что еще с XVII века яды использовались преступниками как орудие убийства, маскирующие насильственную смерть под различного рода желудочные и сердечные заболевания. В XX веке в качестве орудия убийства применялись автомобили, самолеты с целенаправленно поврежденными узлами и т. п. В этом смысле использование интернета вещей, ААС, роботов и т. п. в криминальных целях не представляет собой ничего принципиально нового.
Однако кардинальное различие с прошлым заключается в том, что раньше подобные виды преступлений требовали уникальных навыков, значительных расходов ресурсов и осуществлялись спецслужбами государств, либо крупнейшими преступными синдикатами. Сегодня для технологических преступлений, вплоть до убийств, не требуется никаких навыков. Достаточно заказать у программистов средней квалификации перепрограммирование того или иного управляющего модуля, либо взлом программы. Известно, что когда что-то происходит массово и не носит уникального характера, оно не только подавляющим большинством обычных людей, но и правоохранителей, воспринимается как естественный процесс.
Реализация закона С. Лема. В 60-е гг. прошлого века всемирно известный фантаст и мыслитель С. Лем сформулировал и подкрепил эмпирическим материалом тезис, который получил название закона С. Лема. Закон имеет различные формулировки, но общий его смысл состоит в том, что разрушительная мощь, включая возможности нанесения увечий и даже убийства, малой группы и даже отдельного человека постоянно нарастает. С конца XIX века она увеличивается по экспоненте. И до Лема было понятно, что воин с мечом может поразить меньше людей, чем солдат с винтовкой, а тем более, человек, имеющий пулемет. В течение последних 50 лет тенденция, замеченная С. Лемом, проявила себя в полной мере. На сегодняшний день экспоненциальный характер закона Лема приближается к своей предельной форме.
Уже сегодня небольшая группа, используя доступные на коммерческой основе ресурсы, общей стоимостью менее 250 тыс. долларов США, может, комбинируя робота в виде дрона и бактериологическое оружие, погубить население города с населением несколько миллионов человек.
По оценкам экспертов в ближайшие 3-5 лет на основе достижений синтетической биологии, удастся получить биологически активные структуры, способные избирательно уничтожать всех людей на земле, имеющих тот или иной генетический или иной маркер. Если раньше крупные операции требовали значительных ресурсов и существования мощных организационных структур, то в буквальном смысле завтра глобальные преступные и террористические акты сможет провести если не один человек, то группа из 3-5 единомышленников. Ни разведывательные сообщества, ни правоохранительные органы практически всех стран мира не умеют и не знают, как бороться с такими микровысокотехнологичными деструктивными группами. Вся их техника, технологии работы, организационные процедуры, кадровые структуры заточены под другие виды терроризма, преступности и экстремизма. Между тем, именно такие малые и сверхмалые группы, действуя либо самостоятельно, либо как периферийные части деструктивных стай, станут уже в ближайшие годы главной угрозой не только для отдельных городов и стран, но и глобальной цивилизации в целом.
Интеллектуализация «роботов-убийц». Первые военные роботы появились в 70-х гг. прошлого века в Соединенных Штатах и СССР. Они выполняли преимущественно разведывательные функции. Таким образом, в военное дело роботы проникли раньше, чем в промышленность и другие гражданские отрасли. Следующий решающий прорыв был сделан уже в нашем столетии в Соединенных Штатах и Израиле. Он связан с появлением специализированных и универсальных воздушных роботов или дронов. За последние 10-12 лет дроны, а вслед за ними наземные, а в последние годы водные и подводные роботы преимущественно военного применения, проделали заметную эволюцию. В настоящее время они используются как непосредственно в военных действиях, будучи оснащенными средствами огневого поражения, так и для вспомогательных операций и разведки. По имеющимся данным роботы используются армиями более чем 30 стран мира. Из армии патрульные и транспортные роботы проникли в полицию. Полиция более чем 15 государств сегодня оснащена дронами и надводными патрулирующими роботами.
Стремительная роботизация вооруженных сил и полиции уже в середине нулевых годов привела к напряженным дискуссиям не только среди специалистов и общественности, но и в военных и политических кругах относительно допустимых границ интеллектуализации боевых роботов. До настоящего времени боевые роботы в Соединенных Штатах, Великобритании, других западноевропейских странах в обязательном порядке на стадии нанесения огневого удара находятся под управлением удаленных операторов. Окончательное решение о применении ракет, других средств огневого поражения принимают не программно-аппаратные комплексы, а удаленные операторы.
Существует все расширяющаяся коалиция стран, которая выступает за заключение международных соглашений относительно применения робототехники в военных действиях. В соответствующих инициативах, которые обсуждаются на уровне ООН, предусматривается не допускать производства, а тем более применения роботов, где окончательное решение по применению огневых и иных средств летального поражения принимает не человек, а программно-аппаратные комплексы .
К сожалению, беспристрастный анализ показывает, что в случае подобной законодательной инициативы даже при ее принятии и подписании соответствующего договора основными державами, располагающими наиболее мощными армиями, фактически соглашение выполняться не будет. Террористы, преступники и экстремисты действуют вне правового поля, нарушая любые законы и международные нормы. Это не значит, что не нужны законы и нормы. Но законы и нормы будут действовать лишь в том случае, если обладают механизмом реализации и контроля за исполнением. В случае высокоинтеллектуальных боевых роботов, или, как их именуют в СМИ, «роботов-убийц» такие механизмы не только отсутствуют, но и невозможны в принципе.
Причина невозможности лежит не в плоскости права, а связана с логикой развития технологий. Господствующими тенденциями развития робототехники являются повышение автономности этих систем, их универсализация и главное, модульный способ производства. На практике это означает, что уже сегодня, любой сложный универсальный робот предполагает наличие блока полностью автономного управления . Т. е. роботы содержат аппаратную часть и программные средства, позволяющие им в неблагоприятных средах осуществлять любые операции и действия без контакта с удаленным человеком-оператором. Не существует каких-либо сложностей для того, чтобы дополнить универсального сложного робота огневым модулем и дополнительным программным компонентом, управляющим этим модулем.
В ближайшие годы преступникам, террористам и экстремистам даже не потребуется производить собственных боевых роботов. Достаточно будет приобрести предлагаемый коммерческим пользователям высокавтономный универсальный робот и внести в него определенные конструкционные и программные доработки.
Кроме того, в настоящее время сложные универсальные робототехнические системы, находящиеся на вооружении армии США без труда могут быть доведены до уровня полностью автоматизированных робототехнических систем, включая принятие решений и применение оружия. В условиях, когда даже традиционные террористические организации, не отличающиеся высоким техническим уровнем, такие как Талибан, имеют на своем счету несколько перехваченных и посаженных дронов, угроза захвата сложных систем становится весьма реальной. Более того, первые два подобных случая уже произошли. Иранским хакерам, представляющим КСИР, удалось перехватить управление и посадить на территории Ирана два самых совершенных универсальных боевых американских дрона, проводивших испытательные полеты вблизи иранской границы.
Приведенные примеры наглядно свидетельствуют, что даже не сверхпродвинутые преступные синдикаты, а традиционные террористы могут завладеть сложными робототехническими системами и, заплатив относительно небольшие деньги специалистам из развитых стран, превратить захваченные аппараты в полноценных роботов-убийц.
В 2013-2014 гг. в различных странах мира, прежде всего, в Соединенных Штатах и Израиле, были проведены исследования на основе информации датчиков дронов, которые участвовали в испытательных боях. Для этих боев дроны, управляемые человеком, были предоставлены вооруженными силами США, а ЦХАКАЛ предоставил впервые в мире поступившие на вооружение в армию полноценные дроны-убийцы. В 2014 г. израильская армия первой из всех армий мира начала получать воздушные и наземные дроны, которые применяют боевые поражающие, в том числе летальные, средства не по решению человека, а в соответствии с показаниями программно-аппаратного блока. В результате учебных боев израильские роботы-убийцы в 19 из 20 схваток сбили американские дроны. В одной схватке робот ЦХАКАЛ упал вследствие собственных технических нарушений.
Исходя из результатов испытаний, а также экспериментов по сравнению быстроты реакции человека с роботизированными устройствами на фиксированные раздражители было неопровержимо установлено, что роботы-убийцы имеют значительную фору по времени по сравнению с роботами, управляемыми удаленным наблюдателем.
Отсюда с неизбежностью следует вывод о том, что, если вооруженные силы и структуры правопорядка государств будут соблюдать законы о роботах-убийцах, а деструктивные организации будут игнорировать их, то победа в противоборстве боевых робототехнических систем останется за террористами, преступниками и экстремистами. Это повлечет за собой труднопредсказуемые последствия.
В условиях наличия у террористов, экстремистов и преступников значительных ресурсов и все расширяющихся возможностей, интеллектуализация роботов-убийц становится неизбежной. При этом очевидно, что сам по себе процесс использования армией и полицией высокоинтеллектуальных роботов-убийц будет создавать дополнительные риски для их захвата деструкторами. Однако, к сожалению, и в этой области, также как во многих других выхода нет и вне зависимости от чьих-то желаний, добрых намерений и т. п. гонка интеллектуальных роботов будет продолжаться.
Технологизация уличной и неорганизованной преступности. Традиционно использование сложных технических устройств и приспособлений являлось прерогативой организованной преступности. В последние годы ситуация коренным образом изменилась. С появлением интернета вещей, по сути, весь окружающий мир превратился из мира вещей в мир ААС. Это в полной мере относится не только к сегодняшним сложным системам управления домом, но и к телевизорам, холодильникам, пылесосам, автомобилям и т. п. В ближайшие 5-7 лет ожидается появление массового рынка бытовой робототехники. Из дорогостоящих игрушек и статусных устройств для богатых, бытовые роботы станут обязательной принадлежностью дома и квартиры средней американской семьи.
В последние 5-7 лет по экспоненте растет число преступлений – от грабежей до убийств – с использованием ААС. Значительная часть подобных преступлений, зафиксированных в полицейских отчетах, остается нераскрытой. Это связано с тем, что подобные высокотехнологичные преступления, совершаемые отдельными лицами или небольшими криминальными группами, в корне отличаются от традиционных правонарушений. Правонарушения, с которыми привыкла иметь дело полиция, полностью происходит в реальном мире. Соответственно, преступник оставляет улики, или более того, он фиксируется в прошлом свидетелями, либо в последние годы различного рода системами видеонаблюдения.
Преступность с использованием ААС и роботов предполагает, безусловно, физические действия. Но сигнал, который приводит в действие те или иные аппаратные средства, передается в электромагнитной среде и носит виртуальный характер. Сегодня для того, чтобы совершить преступление не надо присутствовать на его месте. Можно находиться не за десятки, а даже за сотни и тысячи километров. Правоохранительные органы не привыкли работать в таких условиях, и соответственно их деятельность не слишком эффективна.
Не говоря уже о преступных синдикатах, даже отдельные, как принято говорить, уличные преступники отдают себе отчет в неспособности полиции противостоять высокотехнологическим преступлениям. Именно поэтому они берут на вооружение ААС и роботов, как орудия преступлений. В немалой степени по этой причине преступность постоянно молодеет. Сегодня, согласно данным полиции Денвера, средний возраст преступников, достигших совершеннолетия, почти на 10 лет ниже среднего возраста полицейских. Работники полиции считают, что эти цифры с небольшими поправками могут быть экстраполированы и на всю Америку.
На практике это означает, что идет не только война между законом и беззаконием, но и между поколениями. Одно – с детства выросло с интернетом и освоило все его закоулки и премудрости. Второе же – познакомилось с информационными технологиями в молодом или зрелом возрасте, и он для них не является комфортной средой действий. Конечно, в будущем демографический разрыв относительно информационных технологий уменьшится. В полицию будут приходить люди, которые знакомы с интернетом не хуже, чем преступники. Однако к этому времени как раз придет пора массового внедрения роботов, как особых систем цифровой реальности. И относительно роботов возникнет та же коллизия, которая сегодня проявилась в отношении интернета.
Повышение вероятности крупномасштабных террористических актов. Длительное время крупномасштабные террористические акты требовали долгой подготовки, вовлечения множества участников, затрат значительных и разнообразных ресурсов, и наконец, физического присутствия террористов в зоне актов устрашения и насилия. Наиболее яркими примерами таких актов стали 11.09.2001, взрывы в метро в Лондоне и на вокзале в Мадриде. Все они имели отмеченные выше черты. Силам национальной безопасности не удалось предотвратить эти акты, но указанные выше характеристики позволили им выйти на планировщиков и исполнителей варварских актов и наказать их. Эти же черты позволили силам национальной безопасности различных стран предотвратить в последние 15 лет несколько десятков крупномасштабных террористических актов, которые по своим последствиям могли не уступать, и даже превзойти случившиеся события.
Однако с повсеместным внедрением ААС, а в последующем робототехнических комплексов ситуация резко и неблагоприятно изменилась. В последние годы происходит активная автоматизация и роботизация производства и сферы обеспечения жизнедеятельности. Наряду с повышением технической надежности и экономией затрат, этот процесс имеет и крайне негативные последствия. Сегодня в развитых странах мира, и особенно в Соединенных Штатах, жизнь миллионов людей, фактически всего населения страны, решающим образом зависит от объектов и сетей критической инфраструктуры. В их число входят не только федеральные объекты государственного управления и т. п., но и практически все системы жизнеобеспечения, включая энергетику, тепло– и водоснабжение, связь и т. п.
Энергетические сети вне зависимости от того, в чьей собственности и юрисдикции они находятся, управляются ААС, соединенными с интернетом. Это же верно для систем городских водопроводов, канализации, теплоснабжения. Самое опасное состоит в том, что за последние 5-7 лет с появлением эффективных роботизированных систем, ими оснащены все АЭС, крупнейшие гидрорекреационные комплексы (плотины) и т. п.
В этой связи даже не тревогу, а ужас у специалистов вызвали известия о том, что за последние три года неопознанные хакеры неоднократно вторгались в систему энергоснабжения, комплексы автоматизированного управления и хранилища данных гидросооружений и даже атомных станций США. В результате у неизвестных лиц или организаций имеется федеральная информация об уязвимостях и недостатках систем управления и обеспечения безопасности всеми плотинами и гидротехническими комплексами на территории США, системами водоснабжения многих крупных и крупнейших городов страны, региональных энергосистем. Нам остается только молиться, чтобы эти хакеры были китайскими или российскими кибершпионами. В этом случае есть основания ожидать, что данные не появятся на черном информационном рынке и не попадут в руки террористов, преступников и экстремистов. Однако такой уверенности у специалистов нет. Как правило, китайских и российских государственных хакеров интересует несколько иная информация.
В случае же, если информация об уязвимостях в критических инфраструктурах и системах управления ими уже попала или попадет в распоряжение террористических организаций, экстремистских сообществ и с несколько меньшим риском преступных синдикатов, могут произойти непредсказуемые по своим последствиям акты. Причем, надо признаться, что на сегодняшний день у структур национальной безопасности нет способа предотвратить их. Более того, затруднена будет идентификация нападающего. Это является смертельной угрозой для Америки, которую должным образом не осознает ни федеральная власть, ни бизнес, ни тем более общественность.
Новые измерения финансового терроризма и преступности. Если на потребительском рынке продаются первые мелкосерийные полноценные роботы, а в военной сфере на вооружение поступают первые единичные образцы, то в сфере финансов полностью роботизированные системы – торговые роботы, за последние пять лет стали главными действующими лицами на большинстве финансовых рынков Америки, Великобритании и Японии.
Торговые роботы представляют собой интеллектуальные программно-аппаратные комплексы, которые оснащены не только модулями сбора, обработки, анализа информации, но и самостоятельного, без человека, принятия решений, сообразно алгоритмам. На последнее хотелось бы обратить особое внимание. Не только среди политиков, военных и бизнесменов, но даже среди части специалистов по информационным технологиям бытует заблуждение, что торговые роботы представляют собой предтечу искусственного интеллекта и вплотную приблизились к нему. Внешне дело выглядит именно таким образом, поскольку все решения о купле-продаже акций, индексов, валют, деривативов и т. п. принимают непосредственно программно-аппаратные комплексы – торговые роботы. Но, если обратиться к сути дела, то выяснится, что решения они принимают не по собственным правилам, которые создали сами, а по алгоритмам, которые заложены в них людьми – программистами, разработчиками, математиками, аналитиками и т. п. Поэтому об искусственном интеллекте говорить пока преждевременно, хотя решения на финансовых рынках принимаются роботами, без непосредственного участия человека.
Если в 2010 г. не более трети операций на американских финансовых рынках осуществлялось торговыми роботами, то в настоящее время более 70 % сделок на биржевых и внебиржевых финансовых рынках торгующих биржевыми финансовыми продуктами, осуществляются не людьми, а торговыми роботами.
Экспансия торговых роботов, некоторые из которых стоят 10 млн. долларов и более, связана с двумя обстоятельствами. С одной стороны, торговля на финансовых рынках требует регулярной обработкой огромных массивов информации. При краткосрочном трейдинге, а на него приходится основная часть операций, люди просто не успевают обработать и проанализировать разнородные и разноформатные массивы информации. Более эффективно это делают торговые роботы, которые принимают решения на основе некоторых правил. В этом смысле торговые роботы являются наследниками и более универсальными вариантами компьютеров, в прошлом обыгрывающих чемпионов мира по шахматам. В обоих случаях в основе программ лежат определенные алгоритмические правила, построенные на основе иерархии принятия решений.
С другой стороны, с середины нулевых годов было открыто, что источником доходов на финансовых рынках является сверхкраткосрочный временной арбитраж. Если кто-то успевает среагировать на рыночные известия быстрее других, то он снимает выгоду от более раннего знания той или иной новости. Если со времен Ротшильдов до середины XXI века шла гонка за скорость получения информации, то с середины прошлого века до нашего времени началась гонка за скорость реагирования на информацию. Как было показано на примере боевых роботов, автоматизированные системы способны быстрее людей реагировать на любую внешнюю информацию. Соответственно с середины десятых годов стали создаваться не только все более совершенные алгоритмически, но и все более быстродействующие торговые роботы. В настоящее время торговые роботы крупнейших американских банков, которые стоят уже не десятки, а сотни миллионов долларов, окупаются чуть более чем за четыре месяца за счет того, что способны опережать других роботов на сотые миллисекунды.
Господство торговых роботов на финансовых рынках создало новые угрозы для финансовой системы и национальной безопасности США и Запада. В 2014 г. федеральная Комиссия по Ценным Бумагам (SEC) выпустила доклад, в котором обратила внимание не только финансистов, но политиков и структур, занимающихся национальной безопасностью на настораживающий факт. Если в течение нулевых годов в среднем за год фиксировалось чуть менее 9 необъяснимых колебаний курса акций, в разы превышающих их нормальную волатильность, то в 2011-2012 гг. подобных колебании фиксировалось уже в среднем за год 36, в 2013 – 41, и в 2014 – 74. Доскональный анализ, проведенный SEC, показал, что эти колебания не были связаны с какими-либо событиями или новостными поводами, связанными с соответствующими компаниями. Эти колебания были результатами действий торговых роботов, принимавших решения о купле-продаже в соответствии с некоторыми алгоритмами.
После публикации доклада целый ряд крупнейших финансовых институтов и независимых трейдеров, чьи торговые роботы активно участвовали в операциях по купле-продаже, приведших к подозрительной сверхволатильности в 2013-2014 гг. с привлечением специалистов Комиссии, работников АНБ и независимых фирм по компьютерной безопасности, осуществили программно-технологический аудит своих роботов. В результате выяснилось, что в большинстве случаев (точное количество по соображениям коммерческой тайны и национальной безопасности озвучено не было) торговые роботы принимали ошибочные решения в том смысле, что действовали не по алгоритмам, а в результате заражения специальными зловредными программами, срок существования которых измерялся секундами.
После обнародования данной информации ФБР и независимые эксперты сделали вывод о том, что во всех отмеченных случаях имело место не просто хакерство, а тщательно спланированные и виртуозно осуществленные финансовые преступления с использованием программно-аппаратных комплексов. Доступная исследователям и общественности фактура говорит о том, что с каждым годом количество и масштабы такого рода преступности, связанной с заражением, а в будущем возможно и перехватом управления торговыми роботами, будет только нарастать.
Пока достоверно известно лишь о фактах финансовой преступности с использованием торговых роботов. Однако учитывая кластеризацию деструкции, есть основания полагать, что с каждым годом будет увеличиваться опасность крупномасштабных, а возможно и глобальных актов финансового терроризма. Имитационные модели, разработанные в Массачусетском технологическом институте и Финансовой Лаборатории в Швейцарии, в Цюрихе свидетельствуют, что уже сегодня целенаправленный перехват управления торговыми роботами может вызвать глобальное крушение финансовых рынков, за которым последует согласно эффекту домино коллапс мировой финансовой системы.
Ряд специалистов, в том числе в федеральном правительстве, считает эту угрозу, по крайней мере, в ближайшее время, надуманной. По их мнению, роботизированные торговые комплексы крупнейших финансовых институтов защищены лучше, чем какие-либо иные компьютерные сети и аппаратно-программные комплексы. Однако случай Эдварда Сноудена показал, что одного рядового системного администратора – специалиста по проникновению – достаточно, чтобы обрушить всю, без сомнения лучшую в мире, систему безопасности Агентства, ведающего наряду с прочим информационной безопасностью. Известно, что уже после Сноудена хакерам удалось неоднократно проникать в компьютерные сети не только крупных финансовых институтов, но и целого ряда центральных банков. Об этом было сообщено на Давосском форуме 2014 года.
Приведенные факты свидетельствуют, что крупномасштабная роботизированная финансовая преступность стала уже реальностью, а угроза финансового терроризма с каждым не годом, а месяцем становится все более серьезной и необратимой.
Робототехника как фактор социальной напряженности. Преступность, терроризм, экстремизм, будучи связанными с определенными системами ценностей и взглядов, жизненными установками и т. п., развиваются не только под воздействием духовных, но, прежде всего, материальных условий жизни. Бедность, вопиющее неравенство, отключение социальных лифтов, препятствие развитию предпринимательской инициативы, низкий уровень образования или, напротив, невозможность реализовать свой профессиональный потенциал являются питательной почвой для терроризма, экстремизма и преступности.
Многочисленные исследования, проведенные в самых различных странах мира – и в зонах процветания, и в районах бедствия, и в демократических государствах, и в странах, где у власти находятся авторитарные режимы, – показывают, что люди, на чью жизнь оказывают влияние отмеченные выше явления и факторы, в первую очередь рекрутируются деструктивными организованностями. Многочисленными исследованиями подтверждена прямая количественная связь между уровнем безработицы и масштабами развития деструктивных процессов и структур, их вызывающих.
В этой связи массовое внедрение в различные отрасли экономики – от промышленности до транспорта, от финансовой сферы и управления до сферы услуг – роботов создает все возрастающую угрозу социальной стабильности общества . Эта угроза прямо и непосредственно связана с неизбежным, начиная со второй половины десятых годов, увеличением безработицы в силу технологических факторов.
Уже сегодня очевидно, что от 30 до 60 % обслуживающего и младшего персонала в таких отраслях, как юриспруденция, медицина, офисная деятельность различного типа в период до 2025 г. будут заменены роботами. Ряд транспортных профессий, например, водители большегрузных автомобилей, лишатся своих рабочих мест вследствие перехода на полностью роботизированные средства. Если водители такси, которых в США насчитывается более миллиона, сегодня протестуют против новых платформ, типа Uber, отнимающих у них работу, то в интервале до 2020 г. они неизбежно будут вынуждены уступить свои рабочие места полностью роботизированным автомобилям – такси.
Если в промышленности, особенно на сборочных и вредных предприятиях, а также в сельскохозяйственной сфере роботы заменят в основном не граждан США и стран Западной Европы, а легальных и нелегальных эмигрантов, то на транспорте, в сфере услуг, финансах, юриспруденции и т. п. картина сложится совершенно иначе.
Если относительно отмеченных выше сфер у политиков, бизнеса и общества есть понимание, то относительно программистов и системных администраторов такое понимание отсутствует. Между тем, повсеместное внедрение облачных технологий уже в ближайшие годы приведет к резкому сокращению рабочих мест системных администраторов и универсальных IT-специалистов, которых насчитывается сегодня несколько миллионов в малых и средних предприятиях Америки. С максимальным внедрением облачных технологий и созданием интеллектуальных агентов – экспертных систем, типа Watson, увязанных с облачными порталами, подобные специалисты в малом и среднем бизнесе окажутся просто не нужны.
Параллельно в последнее время ряд крупнейших компаний, включая Google, IBM и Oracle, а также стартапы, действующие на базе американских университетов, заявили о том, что вплотную подошли к практической реализации открытых еще в прошлом веке алгоритмов самосовершенствующихся программ. В ближайшие десятилетия такого рода программы будут представлять собой логическое развитие известных всем сред программирования. Они будут способны к автоматизированному, а затем и автоматическому написанию новых, относительно простых программ, используемых для создания интернет-ресурсов, мобильных приложений, программ, управляющих ААС и относительно простыми роботами. Удастся ли создать мощные самореплицирующиеся развивающиеся программы или нет, сегодня доподлинно неизвестно. Фактически создание таких программ и будет означать, по мнению большинства специалистов, появление настоящего искусственного интеллекта.
Однако, даже появление программистов-роботов, способных к созданию сайтов и приложений, несет в себе значительную угрозу. Появление роботов – системных администраторов и программистов для интернета и приложений, отнимет рабочие места у подавляющего большинства сегодняшних программистов средней и относительно низкой квалификации. А это по Америке миллионы, а по миру – десятки миллионов человек. Угроза состоит не только и не столько в том, что эти профессионалы станут безработными, сколько в том, что, будучи лишенными привычного уровня жизни, они вольются в ряды преступников, экстремистов и террористов. Соответственно они обеспечат деструктивным организованностям армию массового квалифицированного IT-персонала, без которой невозможно длительная и успешная борьба, а точнее война, с государственными и бизнес-структурами всех уровней.
Выводы
1. В настоящее время и в ближайшей перспективе возможности преступных экстремистских и террористических организаций использовать достижения высоких технологий, и в том числе ААС и роботов, в деструктивных целях неуклонно увеличиваются. Соответственно возрастает весь спектр связанных с этим угроз не только для развития, но и существования Америки как великой державы, доминирующей силы на глобальной арене и лидера свободного мира.
2. Наращивание мощи деструктивных сил особо опасно в условиях укрепления их взаимодействия, взаимопроникновения и даже сращивания. Происходит процесс кластеризации разнообразных фрагментов и контуров деструктивных организаций в единую глобальную распределенную систему. Эта система носит уже не иерархический, и даже не сетевой характер, а приобретает черты стайного или роевого типа организации.
3. Негативные тенденции и тренды в полити-куме, социуме и экономике происходят на фоне формирования перенасыщенной техногенной и информационной среды. Динамика технологий по всему их спектру, включая критические технологии и технологии Третьей производственной революции, никем не управляются и не контролируются. Это ведет ко все возрастающей турбулентности, хрупкости и ненадежности не только технических и информационных систем, но и американского и глобального социума. Постоянно возрастают риски каскада отказов, который может вызвать глобальный информационно-технологический, политико-экономический и социально-общественный коллапсы. Опыт показывает, что экстремальными и кризисными ситуациями в современном обществе наилучшим образом пользуются деструктивные организованности, для которых эти ситуации и обстановка являются привычными.
4. Представленный доклад и целый ряд публикаций известных американских исследователей, работы коллективов ведущих университетов, фабрик мысли и т. п. убедительно свидетельствуют о том, что ранее использующийся в национальной безопасности подход, согласно которому главная задача состоит в устранении или предупреждении угроз, больше не работает. В ближайшие десятилетия мы обречены жить в условиях все нарастающих угроз. Уже поздно пытаться превентивно предупредить их. Их также невозможно и устранить без разрушения глобального социума и цивилизации в целом.
5. Единственный выход состоит в том, чтобы научиться жить в условиях множащихся угроз. Нужно коренным образом перестроить на государственном, деловом и общественном уровнях привычные нам методы работы, способы управления и регулирования, средства и инструменты обеспечения национальной безопасности. Необходимо согласиться с тем, что, по крайней мере, в ближайшие десятилетия главным критерием для всех решений на всех уровнях и во всех сферах должна стать не эффективность, а выживаемость. Главным должно стать умение по возможности ослабить удар со стороны деструктивных организаций и их вольных и невольных союзников, преодолеть последствия таких ударов и в ответ без разрушения ткани цивилизации максимально и ежедневно ослаблять деструктивные организации.
Совет по правам человека ООН. XXIII сессия. Доклад Специального докладчика по вопросу о внесудебных казнях, казнях без надлежащего судебного разбирательства или произвольных казнях Кристофа Хейнса. 9 апреля 2013 г. Извлечение
Резюме
Боевые автономные роботизированные системы (БАРС) представляют собой системы оружия, которые после приведения их в действие способны выбирать и поражать цели без последующего вмешательства оператора. В связи с этим возникают вопросы, имеющие далеко идущие последствия в том, что касается защиты жизни в условиях войны и мира. К их числу относится вопрос о том, в какой мере их можно программировать, чтобы соблюдались требования международного гуманитарного права и стандарты защиты жизни в соответствии с нормами права в области прав человека. Кроме того, их применение может являться неприемлемым ввиду того, что невозможно разработать сколько-нибудь адекватную систему правовой ответственности, и поскольку роботы не должны наделяться способностью решать вместо людей вопросы жизни и смерти. Специальный докладчик рекомендует государствам ввести национальные моратории на аспекты БАРС и предлагает учредить группу высокого уровня по вопросам БАРС для разработки в этой сфере политики для международного сообщества.
Дата добавления: 2018-09-22; просмотров: 306; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!