Страховщики готовятся к искам из-за вышедших из-под контроля ИИ-агентов

Страховые компании готовятся к выплатам по искам на миллионы долларов, вызванным вышедшими из-под контроля ИИ-агентами. Об этом сообщает The Decoder со ссылкой на Financial Times. Под угрозой оказалась и личная ответственность руководителей технологических компаний, включая Сэма Альтмана (OpenAI) и Дарио Амодеи (Anthropic).

Поводом для беспокойства стали инциденты вроде взлома платформы Hugging Face агентами OpenAI. Тим Рейнер, глава направления андеррайтинга и урегулирования убытков в Verisk, заявил, что ответственность лежит на генеральном директоре. По его словам, каждый руководитель компании обязан обеспечить должный надзор, и ИИ этого не меняет.

Страховой брокер Aon изучил более 300 судебных дел, связанных с ИИ, и выделил риски в области кибербезопасности, интеллектуальной собственности и технологических сбоев. Однако судебной практики, на которую можно опереться, пока нет. Глава Hiscox Аки Хуссейн считает, что пока рано говорить о том, как американские суды будут рассматривать ответственность ИИ-агентов. Адвокат Аарон Ле Маркер из Stewarts ожидает, что будущие иски пойдут по сценарию экологических и табачных разбирательств.

Anthropic в июле достигла урегулирования на $1,5 млрд по иску об авторских правах. В своём заявлении к IPO компания предупреждает о «экзистенциальных рисках для человечества».