Нечеловеческий фактор
Умножение ошибок. Уходящая неделя ознаменовалась лавиной проблем в тех компьютерных сетях, которые по определению должны быть наиболее надежными. В Штатах полностью остановилась пассажирская авиация, серьезные сбои произошли в Google, Microsoft и Apple, была нарушена нормальная деятельность ведущих банков и даже внутренней системы связи Агентства национальной безопасности США - военной конторы, отвечающей за безопасность электронных коммуникаций. Пострадали также различные европейские и мировые структуры, включая международную хоккейную федерацию и ведущий японский суперкомпьютер.
Обычные ссылки на северокорейских, китайских или российских хакеров не звучали - напротив, их причастность отрицали. Государственные лица, похоже, не имеют четкого представления о том, кто направлял эти атаки, поэтому отделываются объективными причинами. Официально череда инцидентов считается не атаками, а совпадениями.
Просто так совпало, что почти одновременно вышло из строя устаревшее авиадиспетчерское оборудование, потом у компьютерных гигантов произошли перегрузки на фоне неудачных обновлений и так далее.
Всё это может быть именно так: знающие предмет инсайдеры поражаются тому, что вся эта гигантская, крайне сложная, запутанная и противоречивая информационно-управляющая инфраструктура вообще работает - вместо того, чтобы рухнуть под собственной тяжестью или не вылезать из сбоев. Ведь достаточно уже хотя бы человеческого фактора.
На очкастых головах умников сегодня держится всё - и тут заложен огромный риск. Знания умножают не только скорбь, но и ошибки. Людям свойственно ошибаться, это эволюционный механизм, позволяющий человеческому виду создавать себе возможности развития. Мы не запрограммированные природой автоматические муравьи, но фактор ошибок - и в личной жизни и в профессиональной - заложен в нас изначально. Отсюда неизбежность замены человеческого фактора нечеловеческим в информационных системах.
Насколько болезненной или даже катастрофической будет такая замена? Забавно было наблюдать, как создатели систем искусственного интеллекта соревновались в саморазоблачениях насчет того, чья система быстрее вышла из-под их контроля и сама по себе хакнула что-нибудь неприкасаемое. Можно было подумать, что они приглашают вышеупомянутых вражеских хакеров покупать их крайне полезный на вредительском поприще агентский товар.
Ну, а если говорить о совпадениях, то, конечно же, череда инцидентов предшествовала встрече Большой Тройки лидеров новой «оси друзей» в Китае. Они там планету делить собрались, решать вопросы войны и мира? Ну, пускай не забывают главного: кто владеет информацией, тот владеет миром! Но вот вопрос: это всё ещё «кто», или уже «что»?
На минувшей неделе, еще до нынешних массовых сбоев, ФБР вынесло предупреждение относительно системы искусственного интеллекта ARTEX, использовавшейся для атак на различные структуры недавним летом. Вот перечень этих структур: «финансовые, правительственные, технологические, оборонные, энергетические, медицинские, производственные, телекоммуникационные и юридические».
В отличие от нынешней «череды совпадений» летние взломы не получили широкого освещения в масс-медиа. А ведь события были сенсационными: ARTEX в считанные часы удавалось получить привилегированный доступ к закрытым сетям.
Вероятно, итоги можно подвести так: в последние месяцы идет массированная, мощная атака на важнейшие национальные и глобальные структуры. И даже передовая защита эти атаки отразить не может.
А если еще более итогово, то очень хочется понять: это очередные залпы третьей мировой войны или начальные залпы первой мировой войны искусственного интеллекта? В любом случае страшно думать о том, к чему всё это может привести, учитывая доступность и относительную легкость в управлении той же ARTEX.
Сегодня мало кому нужны вражеские территории сами по себе, нужнее всего контроль над ресурсами - от природных до управленческих. И никто и ничто не может выполнить задачу установления контроля эффективнее, чем ИИ. Ещё вчера программеры хохотали над кинобоевиками, где компьютерные гении, отстучав по клаве несколько строк кода на, скажем, змеином языке, тут же взламывали ЦРУ или Кремль. Но теперь многим профессионалам, вглядывающимся в послезавтрашний день, похоже, уже не до шуток...
А.Гладков
