МЕНЮ ≡

Вход на сайт

Русские взломали субподрядчика Пентагона по ИИ

Аватар пользователя GORA

Бывший сотрудник Эми Лю, в рамках иска к американской фирме Clarifai утверждает, что фирма была взломана одним или несколькими людьми из России, в результате чего, вероятно технологии, используемые американскими военными достались противнику. В иске говорится, что руководство Clarifai узнало о взломе в ноябре прошлого года, но не сообщило об этом Пентагону, а когда Эми Лю - бывший капитан ВВС, попыталась раскрыть инцидент, она была уволена.

Другой бывший сотрудник сказал изданию WIRED, что действия руководства фирмы по поводу взлома, побудили его покинуть компанию.

Фирма Clarifai работала над частью проекта Пентагона Maven, по наполнению американских вооруженных сил искусственным интеллектом. Проект Maven вызвал бунт внутри Google, который взял на себя аналогичный контракт по анализу информации с Дронов. Более 4500 сотрудников Google подписали письмо, протестуя против проекта, заявив, что они не хотят, чтобы технология Google потенциально помогала убивать людей. Протест побудил компанию выпустить этические принципы, регулирующие использование ИИ технологии, и обещание не продлевать свою часть в проекте Maven, по истечению контракта, в следующем году.

Фирма Clarifai отказалась комментировать, работал ли она над проектом Maven. Представитель фирмы сказал, что инцидент с безопасностью связан с ”нецелевым ботом", который заразил исследовательский сервер, но не получил доступа к каким-либо данным или коду. Представитель сказал, что клиенты были уведомлены об этом инциденте, но отказался сказать, был ли Пентагон в их числе.

Clarifai был основан в 2013 году Мэтью Зейлером, который изучал машинное обучение наряду с профессорами, которые позже стали ведущими исследователями ИИ в Google и Facebook. Стартап предлагает компаниям распознавание образов под такие задачи, как распознавание знаменитостей и продуктов питания.

Лю говорит, что отсутствие прозрачности и плохая безопасность, которую она наблюдала в Clarifai, сделали её непригодным местом для этой работы. ”Если сейчас Google не будет работать, и все, что у них останется, - это такие компании, как Clarifai, - сказала Лю.

Лю говорит, что она была втянута в военную разработку Clarifai, когда она помогла подготовить проект презентации Clarifai для контракта Maven в июне 2017. В презентации утверждается, что технология Clarifai, разработанная для коммерческих клиентов, может быть адаптирована под военных, для таких целей, как обнаружение и подсчет автомобилей и людей, по данным предоставляемым Дронами. Лю говорит, что Clarifai выиграла контракт на шесть месяцев, в 7 миллионов долларов. Как и Google, Clarifai работала над Maven в качестве субподрядчика «ECS Federal», ИТ-подрядчика со штаб-квартирой в Fairfax, штат Вирджиния.

Контракт Maven был большой победой для Clarifai. Внутренний документ конца 2017 года показывает, что до этого большинство контрактов стартапа были меньше, чем на $100,000. Но Лю и другие, знакомые с проектом, говорят, что руководство скрыло тот факт, что Clarifai стала участвовать в военной разработке, описывая проект в целом как правительственный контракт,который может спасти жизни. Два человека, которые работали над проектом, говорят, что они изначально не были проинформированы о том, что технология наблюдения, которую они строили, была для военных.

Текущие и бывшие сотрудники Clarifai сказали, что около 10 человек работали над контрактом Maven, в комнате без окон, позже помеченной как «Тайная комната». Для некоторых, цель проекта полностью раскрылась только тогда, когда, более чем через месяц, госслужащие, которые, по-видимому, были военнослужащими, посетили офисы Clarifai, чтобы обсудить разрабатываемую систему.

В начале ноября Clarifai была проинформирована интернет-провайдером Cogent, что один из его серверов подвергся атаке. В отчете говорилось, что весь код компании и учетные данные учетной записи AmazonWebServices, сохраненные данные клиентов могли быть взломаны, и что вредоносная программа, по—видимому, попала с компьютера из России. Представитель Clarifai сказал, что расследование компании показало, что ни какие данные компании или код не были взломаны.

В журналах отчётности, генеральный директор, сообщал, что вредоносная программа пыталась связаться с компьютерами “во всем мире. "В том числе и некоторыми, принадлежащими правительству США. "Одним из них являлся сетевой информационный центр МО США.”

Лю говорит, что тогда на следующий день она услышала от других сотрудников, что компания подверглась нападению. Вскоре после этого, как говорится в ее жалобе, генеральный советник Clarifai, Кэролайн Маккаффери, вызвал ее, чтобы встретиться в кладовке.

Там, как утверждает Лю, Маккаффери подробно рассказал, о том, что руководство узнало о взломе и попросили помощи в планировании внутренних сообщений об инциденте. Лю говорит, что она высказала опасения, что Пентагон, и, возможно, другие клиенты Clarifai, должны быть проинформированы, но Маккаффери утверждал, что в этом нет необходимости, пока внутреннее расследование не было завершено.

Позже в тот же день, Маккаффери объявил на собрании компании, что никто не должен писать о взломе, со слов, бывших и действующих сотрудников. В своем иске Лю говорит, что в следующую запланированную встречу со своим менеджером,в повестку дня она добавила пункт о необходимости проинформировать правительство о взломе. Через несколько дней Лю была уволена.

Один из бывших и один из действующих сотрудников Clarifai сообщили, что компания не раскрыла инцидент Пентагону даже несколько недель спустя. Представитель компании сказал, что клиенты были уведомлены об инциденте, но отказались сказать, когда это произошло. В жалобе Лю говорится, что Пентагон узнал об этом инциденте другим способом, но она и её адвокат отказались говорить о подробностях.

Люс казали, что её уволили, потому что её работа не устраивала отдел продаж Clarifai. В её иске утверждается, что реальная причина увольнения была в том, что она призвала Clarifai сообщить Пентагону о взломе. Её жалоба была подана и в Министерство обороны, с указанием на то, что Clarifai нарушила правила Пентагона, не сообщив об инциденте в течение 72 часов, и нарушила законодательство, запрещающее репрессии против сотрудников, пытающихся раскрыть информацию о нарушениях правил департамента. Представитель Clarifai подтвердил, что Лю была уволена в ноябре 2017 года, но отрицал, что компания сделала это из-за взлома.

Как сообщают источники знакомые с ходом работ, в начале этого года контракт Clarifai, связанный с проектом Maven, был продлен на два месяца, потому что Пентагону понравились технологии, разработанные компанией.

Авторство: 
Авторская работа / переводика
Фонд поддержки авторов AfterShock

Комментарии

Аватар пользователя Эпиграмма
Эпиграмма(1 год 10 месяцев)(08:22:31 / 13-06-2018)

Вот только на днях на АШе читала, что какого-то пентагоновского подрядчика, разработчика противокарабельных ракет, китайцы ломанули, а тут опять. Они, эти подрядчики, чё - секретными документами через группу в пейсбуке обмениваюццца?

Аватар пользователя Офисный планктон

Все данные в "облаке" хранят - это круто!

Аватар пользователя Stanleygoo
Stanleygoo(3 года 9 месяцев)(09:00:54 / 13-06-2018)

Такие подрядчики не только у пиндосов )

Аватар пользователя Эпиграмма
Эпиграмма(1 год 10 месяцев)(09:09:23 / 13-06-2018)

Такие подрядчики не только у пиндосов

Это несомненно. Но тут другое интересно - если у тебя ломают корпоративные сервера и сливают инфу, то что надо делать? орать о том, что это русские и китайцы или предпринимать меры к повышению безопасности? А если подрядчика ломанут не русские, а финны, например? Или бангладешцы?

Аватар пользователя Stanleygoo
Stanleygoo(3 года 9 месяцев)(09:16:53 / 13-06-2018)

Соглашусь. Если инфу уже слили, то усиливать меры защиты поздно, но все равно необходимо, но и указать на того кто слил, думаю тоже не лишне.

Аватар пользователя Калкин
Калкин(2 года 2 месяца)(09:08:23 / 13-06-2018)

Вы не поверите, но всё ещё хуже! Просто ЭТО пока не публикуется! А на самом деле в "аутсорсенге" работают много наших соотечественников и УТЕЧКА - это мягко сказано! Да там ломать нечего - бери, не хочу! 

Аватар пользователя Vladislav IV
Vladislav IV(2 года 2 месяца)(11:38:52 / 13-06-2018)

Я бы ещё проще сказал. В данном конкретном случае речь идёт об ИИ, а это далеко не новая технология, и СССР (а затем и РФ) не были в числе аутсайдеров, когда она впервые появилась. Просто в своё время ИИ придумали и забыли, т.к. вычислительных ресурсов для организации достаточно масштабной и оправданной нейронной сети не хватало. Появились ресурсы - вернулись к технологии. У нас тоже "пыль стряхнули" со старых разработок.

Так что, возможно, вброс - просто-напросто попытка оправдать свою некомпетентность или "внезапно" вскрывшееся наличие технологий машинного обучения у противника.

Аватар пользователя Veritas
Veritas(2 года 1 месяц)(12:14:13 / 13-06-2018)

Нет, тогда таки это были Мойша и Изя. А русские там были ни при чем. Емпни.

Аватар пользователя СибВатник
СибВатник(1 год 9 месяцев)(08:27:25 / 13-06-2018)

Тетку выперли но досадить и отсудить хочется. 

А по теме.... Интересно как софты написанные тучей подрядчиков будут работать "в куче".  У Ф35 не очень весело. 

Аватар пользователя __Alex_loki_
__Alex_loki_(6 лет 5 месяцев)(21:22:17 / 13-06-2018)

амерзоидная Скайнет со злости на судьбу свою тяжкую решит уничтожить своих разработчиков . :)

Аватар пользователя Dominus_nox
Dominus_nox(1 год 11 месяцев)(08:55:42 / 13-06-2018)

Главное набросить от обиды), а взломали или нет дело десятое.

Аватар пользователя iro4kin
iro4kin(6 лет 6 месяцев)(08:58:36 / 13-06-2018)

Вот после китайцев, которые взломали подлодки, уже не хочется читать эту простыню. Ибо что тут, что там - откровенное выбивание бабла и замыливание собственных факапов и не способности создавать и иметь современное вооружение.

Аватар пользователя Николай Болховитин
Аватар пользователя Volga69
Volga69(2 месяца 1 неделя)(17:05:11 / 13-06-2018)

"Вот злонравия  достойные плоды.." А не запретили  бы  пользоваться антивирусом  Касперского-  никто  бы  их  не  взломал.. Чую. скоро  русских хакеров  обвинят в виртуальных домогательствах, как  это они  упустили...

Аватар пользователя ИЮЛь Майский

Есть такой "бородатый" анекдот: лучшее лекарство от СПИДа -"спиодин".

А лучшее лекарство от хакеров (реальных или мнимых) -физическое разделение внутрикорпоративной сети и Интернета. Но ежи продолжают жевать кактус.