Бившият изпълнителен директор на Google иска да въведе изкуствен интелект в американската армия, съобщава насоченото към новите технологии американско списание Wired. Ерик Шмид възнамерява да снабди американската армия с авангарден изкуствен интелект, за да се противопостави на Китай. Ще стане ли обаче светът ни по-безопасно място?
Преди да се отправи към бойното поле, скъпото военно оборудване, например като танкове, се подлага на строги тестове. Стартъп на име Istari, плод на въображението на бившия главен изпълнителен директор на Google и ръководител на Alphabet Ерик Шмид, вярва, че поне част от тази работа ще бъде по-удобна за извършване във виртуалната метавселена.
Програмата Istari използва машинно обучение за виртуално сглобяване и тестване на бойни машини от компютърни модели на отделни компоненти, които обикновено не се припокриват върху цифрови чертожни дъски, като шасита и двигатели. Ще изглежда изтъркано, но Шмид казва, че ще донесе така необходимите технологични иновации на американското военно инженерство. „Екипът на Istari прави моделите и симулациите по-удобни за потребителя по начин, подобен на уеб", казва той. „В бъдеще това ще ни позволи да създаваме гъвкав софтуер за физически системи - това е страхотно вълнуващо."
Компанията представлява уникалната позиция на Шмидт на нещо като мост между технологичната индустрия и Пентагона. Виртуалните копия (известни още като „дигитални близнаци“) вече се използват в производството и ще помогнат на Пентагона да ускори разработването на ново оборудване. Istari е само една стъпка в огромен проект, в който Шмид се надява да донесе технологии и идеи от Силиконовата долина на американската армия.
Всичко започна с шока, който Шмид изпита през 2016 г., когато за първи път видя нивото на технологията на Пентагона. Тогава той беше ръководител на Alphabet, но вече беше приел покана от министъра на отбраната Аштън Картър да оглави нов Съвет за иновации в отбраната с поглед към модернизирането на армията. Новата позиция на Шмид започна с опознавателна обиколка на американски лаборатории и бази.
„Трябваше да обикалям много с Ерик и да видя къде е комерсиалната технология“, спомня си Уил Ропър, тогавашен помощник-министър на военновъздушните сили по технологиите, по-късно съосновател и главен изпълнителен директор на Istari. „Оказа се, че и в системата на отбраната се разработва софтуер по същия начин, както през 70-те и 80-те години." Уил Ропър беше само един от многото шефове на Пентагона, които бяха впечатлени от „диагнозата“ на Шмид и желанието му поне да се опита да реши тези проблеми.
Шмид става главен изпълнителен директор на Google през далечната 2001 г., когато търсачката има само няколкостотин служители и едва печели. Той напусна Alphabet през 2017 г., след като изгради голяма и изключително печеливша компания с обширно портфолио от авангардни проекти, които включват изкуствен интелект, самоуправляващи се коли и квантови компютри.
Сега Шмид видя нова възможност за технологичен скок към господство на правителството на САЩ в съперничество за световна сила. С разбирането си за технологичните цели на Пентагона той беше в уникалната позиция да помогне за постигането им. Но връзките му с индустрията повдигат въпроса как Америка може да съвмести интересите на правителството и частния сектор. Военната мощ на САЩ отдавна се основава на напреднали технологии, но някои се опасяват, че военният ИИ е изпълнен с нови рискове.
Хората са добри, системата не струва
Говорейки от офиса си в Ню Йорк, Шмид изложи грандиозните планове за далновидно министерство на отбраната, което умело ще използва технологии от компании като Istari. В елегантния си оранжев пуловер от най-фина вълна той небрежно говори за мащабно „рестартиране“ на американската армия, пише Wired.
„Да кажем, че ще изградим най-добрата бойна система в света", казва Шмид, очертавайки радикална промяна. „Ще започнем с изграждането на технологична компания." Той обяснява своята интерпретация на "Интернет на смъртоносните неща": "Ще има голям брой евтини устройства, изключително мобилни и лесно достъпни. Тези устройства (или дори дронове) ще носят сензори и оръжия и ще се обединят в една мрежа."
Според Шмид проблемът на днешния Пентагон не е в парите, в таланта или решителността. Той описа съвременните въоръжени сили на САЩ по следния начин: „хората са добри, системата не струва.” Това е продукт на една отминала епоха, в която доминираха големи, бавни и скъпи проекти (например също като самолетоносачите), а бюрокрацията пречеше на бързото вземане на решения. Независими проучвания и изслушвания в Конгреса показаха, че изборът и закупуването на софтуер от Министерството на отбраната отнема години и той може да остарее, докато бъде инсталиран. Шмид счита, че това е огромен проблем за САЩ, защото дигитализацията, софтуерът и мрежите имат потенциала да революционизират армията.
Шмид счита, че отговорът на Украйна на руската инвазия е посочил пътя за напредък на Пентагона. Украинските въоръжени сили успяха да издържат на превъзхождаща мощ до голяма степен благодарение на бързите действия и въвеждането на технологии от частния сектор - по-специално чрез въоръжаване на търговски дронове, пренасочване на повредени комуникационни системи направо на бойното поле, както и създаване на 3D печат на резервни части и разработване на полезен софтуер за такива военни задачи като ведомост за заплати в месеци, а не в години.
Като илюстрация на трудностите, пред които е изправена американската армия, Шмид предлага мисловен експеримент. „Представете си, че вие и аз искаме да разрешим украинския проблем и Министерството на отбраната ни отпусна 100 милиона долара и ни даде шест месеца“, казва той. „И шест месеца по-късно някой наистина излезе с някакво ново устройство, инструмент или цяло метод, който ще помогне на украинците да спечелят победа". Задачата решена ли е? Не! „Всичко, което току-що казах, е незаконно: правилата за закупуване забраняват на Пентагона да разпределя пари без задълбочена проверка и отнема много време, за да го направи“, обяснява Шмид.
Ново оръжие
Според Шмид най-големият технически проблем на Пентагона е в областта на изкуствения интелект (AI). „От време на време се появява ново оръжие или нова технология, която коренно променя ситуацията", казва той. „През 30-те години Айнщайн пише писмо до Рузвелт и казва, че има технология, която ще промени войната, наречена ядрени оръжия и така стана. Днес бих подчертал автономността, базирана на AI и децентрализираните разпределителни системи.“
С помощта на Шмид подобно мнение се вкорени в Пентагона през последното десетилетие: неговите лидери са съгласни, че ИИ ще революционизира военните технологии, събирането на разузнавателна информация и софтуера. В началото на 2010 г. Пентагонът започна да търси технологии, които биха му помогнали да запази предимство пред нарастващата китайска армия. Съветът за отбранителни науки (най-висшият консултативен орган по технологиите) стигна до заключението, че бъдещето на военната конфронтация и конфликти е именно в базираната на ИИ автономия.
Но AI технологията се развива главно в частния сектор. Най-добрите инструменти, които могат да се окажат от решаващо значение за военните, като алгоритми за идентифициране на вражески бронирани средства или конкретни хора във видео, или инструменти за изучаване на „свръхчовешки“ стратегии, се изграждат или от технологични гиганти като Google, Amazon и Apple, или от технологични стартиращи компании.
„Голямото предизвикателство пред армията на САЩ в бъдеще е как да се адаптира комерсиалната технология към нуждите на армията по-бързо от конкуренцията“, казва Пол Шаре. В него Шаре отбелязва, че делът на Пентагона в глобалните разходи за научноизследователска и развойна дейност е спаднал от 36% през 1960 г. до едва 4% днес.
Министерството на отбраната на САЩ работи предимно с частния сектор чрез големи отбранителни изпълнители, които се специализират в изграждането на трудоемък и скъп хардуер, а не в гъвкав софтуер. Договорите на Пентагона с технологични гиганти от калибъра на Amazon, Apple и Microsoft набират скорост, но предизвикват и критики. Анализът на кадри от дрон с помощта на Google AI като част от проекта Maven („Експерт“) предизвика протест на служителите и компанията прекрати договора. Оттогава Google разшири работата си в армията, въпреки че определени категории оръжия все още са изключени от правилата му.
Шаре вярва, че хора като Шмид с влиянието си в индустрията ще могат да преодолеят тази празнина. Заплашени от промяна, технологичните гиганти понякога успешно се преоткриват. А представители на индустрията могат да помогнат на Пентагона да се бори с бюрокрацията и да стане по-привлекателен като партньор за стартиращи фирми, най-важният генератор на нови идеи. „В противен случай все още се опитваме да изградим армия от 21-ви век с бюрокрация от 20-ти век“, оплаква се той.
Обърнете се към Китай
Според Шмид технологичната индустрия има задължение да помогне на Пентагона, а правителството, от своя страна, на Силиконовата долина. През 2019 г. той председателства Комисията за национална сигурност на САЩ по изкуствен интелект, която Конгресът създаде, за да проучи въздействието на технологията върху сигурността и конкурентоспособността на страната. Нейният окончателен доклад за 2021 г. се фокусира върху съперничеството на AI между САЩ и Китай. По-специално има предупреждение, че тази технология може да помогне за укрепването на авторитарните ценности. За да запази източника на AI чист в САЩ, правителството беше призовано да работи по-активно с частния сектор и да осигури финансиране, данни и изчислителна мощност както за публични, така и за частни проекти.
На събитие миналата есен Шмид призна, че работата му в комисията е променила живота му и е отворила очите му за китайската заплаха. „Изправени сме пред изключително сериозно предизвикателство: съперникът ни е фокусиран върху целите си и има добра представа какво прави“, каза той. Оттогава комисията е разпусната, но самият Шмид сега работи за подобна агенция, изучавайки последиците от напредъка в биотехнологиите. Той също така финансира нов независим мозъчен тръст, наречен Ad Hoc Competitive Research Project. Проектът не само се занимава с технологии за изкуствен интелект, но също така е моделиран след антируската инициатива от ерата на Студената война, създадена от Нелсън Рокфелер под ръководството на Хенри Кисинджър.
Миналата година проектът публикува серия от доклади, призоваващи правителството да финансира области, критични за продължаващия растеж и конкурентоспособност на САЩ, включително ядрен синтез, квантово изчисление, комуникации и редактиране на генома. Докладите идват на фона на нарастващата подкрепа за масивна правителствена намеса в технологиите. Законът за чиповете, приет миналата година, се ръководи от опасенията за Китай и ще задели 280 милиарда долара за изследвания и производство на полупроводници в САЩ.
По-тясното сътрудничество между правителството и индустрията обаче няма да бъде лесно. През 2017 г., докато Шмид все още беше в Съвета за иновации в отбраната, един служител изрази опасения, по-късно отхвърлени, относно възможни конфликти на интереси, както за себе си, така и за други лидери от Силициевата долина. Шмид все още притежава около 5 милиарда долара в акции на Alphabet, той е сред инвеститорите в начинаещия военен изпълнител Rebellion Defense и има връзки с други свързани с правителството компании чрез различни инвестиционни фирми.
„Трудно е да се назове друг главен изпълнителен директор със сравнимо влияние в технологичното пространство на вътрешната сигурност“, каза Джак Поулсън, който проследява връзките между физически лица, корпорации, организации с нестопанска цел и правителства чрез неправителственото техническо запитване. Той отбелязва, че Шмид участва в няколко технологични компании едновременно и всички те работят в области, които според Специалния конкурсен изследователски проект заслужават повишено държавно финансиране.
Може би работата на Шмид демонстрира не само стойността на сътрудничеството между правителството и частния сектор, но и необходимостта от по-голяма прозрачност и отчетност, докато то се разширява. Мелиса Ставенхаген, говорителят на Шмид, казва, че той винаги разкрива цялата необходима информация в пълен размер. „С неговия опит в републиканските администрации той е наясно с важността на този въпрос“, казва Ставенхаген.
По време на нашия чат в Zoom имаше постоянно усещане, че Шмид е разочарован от системната криза в правителството на САЩ и неговия подход към технологиите. През 2016 г., когато за първи път дойде в Пентагона, той не очакваше, че ще намери ново призвание. „Реших, че ще правя това около година, за да помогна“, спомня си той. Това обаче в крайна сметка стана втората му кариера. Без значение колко постига Пентагонът в развитието на изкуствения интелект и без значение как мечтите му влияят на света около него. Шмид със сигурност ще играе ключова роля в това.
Превод: Ганчо Каменарски
