Служители на Google напускат заради военни договори с AI

Служители на Google напускат заради договорите на компанията за предоставяне на изкуствен интелект на военните, съобщава BBC. Медията е разговаряла с няколко настоящи и бивши служители на Google DeepMind – подразделението, което разработва AI технологиите на компанията.

Сред тях е София Лигуори, инженерка в Лондон, която е подала оставка тази седмица след три години в DeepMind. Тя обяснява решението си с разрастващото се сътрудничество на Google с армиите на САЩ и Израел. „Осъзнаването, че компанията ми все повече настоява за AI системи във военни операции, ме кара да се срамувам, че работя в Google“, казва тя пред BBC.

Изследователят Андреас Кирш също е напуснал този месец. Според него сегашните AI модели не са достатъчно надеждни за военни задачи, а Google няма достатъчен контрол върху начина, по който Пентагонът използва технологията.

По-рано тази година компанията е подписала договор, който позволява на американските военни да използват нейния AI и за секретни задачи. Споразумението допуска употреба за „всяка законна правителствена цел“. В него е записано, че моделите не бива да се използват за масово наблюдение в САЩ или за автономни оръжия без подходящ човешки надзор и контрол. Това важи и когато AI се използва за избор на цели за удар.

Основното притеснение на критиците е дали хората могат действително да проверяват решенията, предложени от AI. Пред BBC бившата ръководителка на екипа по геополитика в OpenAI Сара Шокър обяснява, че когато системата подбира стотици цели за кратко време, за военните става почти невъзможно да проверят всяка от тях за грешки.

Служители разказват и че се страхуват да говорят публично заради договорни ограничения и опасения за кариерата си.

Google отговаря, че проверява договорите си за съответствие с правилата и принципите си за използване на AI. Компанията посочва, че служителите могат да подават сигнали по защитени вътрешни канали и че забранява ответни действия срещу тях.