Anthropic предупреди за „катастрофален риск“ преди излизане на борсата

Компанията „Антропик“ (Anthropic) предупреди, че изкуственият интелект може да създаде „катастрофални или екзистенциални рискове за човечеството“, докато разкриваше подробности за планираното си мащабно излизане на фондовата борса в САЩ.

Компанията, стояща зад чатбота с изкуствен интелект Claude, обяви загуби в размер на над 80.7 млрд. долара през първата половина на годината, но посочи, че разполага със 112.4 млрд. долара в брой или парични еквиваленти, като за същия период е генерирала приходи от 16.3 млрд. долара.

Броят на акциите, които ще бъдат пуснати в продажба, ценовият им диапазон и датата на листването все още не са оповестени.

Очаква се пазарната оценка на Anthropic при излизането ѝ на борсата да надхвърли тази на SpaceX – компания, чието излизане на борсата това лято отбеляза най-голямото първично оценяване в историята, възлизащо на около 1.8 трилиона долара.

В документ, подаден преди листването, от Anthropic посочват, че политици, регулатори, изследователи, както и хора от самата организация, са изразили опасения, че системите с изкуствен интелект представляват значителен риск за човечеството.

От компанията заявяват, че усъвършенстваните системи с изкуствен интелект „биха могли – ако не бъдат разработвани, внедрявани и експлоатирани с подходящи предпазни механизми, надзор и мерки за сигурност – да създадат катастрофални или екзистенциални рискове за човечеството; особено ако такива системи бъдат използвани неправомерно, репликирани, превърнати в оръжие или ако им бъде позволено да функционират с висока степен на автономност“.

Anthropic ще бъде първата компания, фокусирана изцяло върху изкуствения интелект, която става публична, което я превръща в своеобразен тест за бъдещето на тази технология.

Компанията обяви, че ще се листне на борсата Nasdaq под борсовия код ANT.

Според проспекта до Комисията по ценните книжа и борсите на САЩ „Антропик“ е поела ангажименти за най-малко 518 млрд. долара за изграждане на инфраструктура за изкуствен интелект през следващите десет години, включително за облачни услуги и изчислителни мощности. Около 80 процента от тази сума е по договори, които не могат да бъдат прекратени, или по които компанията трябва да плаща независимо от реалното използване на резервирания капацитет, съобщава Ройтерс.

Това означава, че значителна част от бъдещите ѝ разходи вече е договорена и не може лесно да бъде избегната, дори ако потребностите ѝ от изчислителни мощности се променят.

Компанията разчита в значителна степен на „Амазон“ и „Гугъл“ – чрез техните облачни платформи са реализирани 47 процента от приходите ѝ през 2025 г., допълва Ройтерс.

Anthropic – основана преди едва пет години от изпълнителния директор Дарио Амодей, сестра му Даниела Амодей и още петима съоснователи – обяви намерението си да стане публична компания през юни.

Най-големият ѝ конкурент, OpenAI, бързо последва примера, като също заяви намерение да излезе на борсата. Според източник, запознат с плановете на OpenAI, това се очаква да стане в началото на следващата година.

След като компаниите взеха тези решения, последва вълна от пробиви в киберсигурността и други технологични инциденти, свързани с техните AI агенти – софтуерни ботове, проектирани да функционират до голяма степен автономно. Настоящи и бивши служители на двете компании също привлякоха общественото внимание с нови предупреждения, че технологията за изкуствен интелект (ИИ) се разработва, без да е осигурена възможност за защита на цялото човечество от евентуални бъдещи вреди, причинени от инструменти, базирани на ИИ.

В новите си документи компанията Anthropic потвърждава поети в миналото ангажименти да развива ИИ по начин, който е полезен за хората, като същевременно предупреждава инвеститорите за опасностите, свързани с тази технология.

Във финансовите си отчети Anthropic посочва загуби, надвишаващи приходите ѝ за първата половина на годината, но отбелязва, че често ще прави инвестиции с дългосрочна насоченост, които „на пръв поглед може да изглеждат безотговорно големи“.

„Като цяло ще се стремим да бъдем смели, но разумни, и да печелим доверие чрез поредица от успешни начинания“, заявяват от технологичната компания.

Успехът на Anthropic зависи до голяма степен от способността ѝ да разработва най-усъвършенстваните модели с изкуствен интелект, като компанията допълва, че „всеки неуспех в това отношение би могъл да се отрази неблагоприятно на бизнеса ни“.

Технологичните компании инвестират мащабно в скъпоструваща инфраструктура и инструменти за ИИ – като центрове за данни и информационните модели, които стоят в основата на всички технологии с изкуствен интелект – като само през последната година са вложили в тези усилия над 1 трилион долара.