شرکتهای بیمه بیشتر از هزینههای مالی هوش مصنوعی، از پیچیدگی و غیرقابل پیشبینی بودن این فناوری نگران هستند. این نگرانیها ناشی از تجربههای اخیر است که نشان دادهاند خطاهای هوش مصنوعی میتوانند پیامدهای جدی و پرهزینهای داشته باشند.
مدلهای هوش مصنوعی بهقدری پیچیده شدهاند که اعتماد به آنها دشوارتر شده است. خطاهای این فناوری گاهی خسارتهای سنگینی به بار میآورند؛ مانند اشتباه قابلیت «AI Overview» گوگل که یک شرکت انرژی خورشیدی را به مشکلات حقوقی متهم کرد و منجر به شکایتی ۱۱۰ میلیون دلاری شد. همچنین، چتبات ایر کانادا بدون مجوز طرح تخفیفی اعلام کرد که شرکت مجبور به اجرای آن شد. در نمونهای دیگر، کلاهبرداران با استفاده از نسخه دیجیتالی مدیرعامل یک شرکت، توانستند ۲۵ میلیون دلار از شرکت مهندسی Arup در بریتانیا سرقت کنند.
آنچه صنعت بیمه را بیشتر نگران کرده، خطر «ریسک سیستماتیک» است؛ وضعیتی که در آن یک مدل هوش مصنوعی پرکاربرد دچار خطا شود و بهطور همزمان هزاران مطالبه خسارت ایجاد کند. کارشناسان هشدار دادهاند که چنین سناریویی میتواند معادلات سنتی صنعت بیمه را بهکلی تغییر دهد و خسارتهای گستردهای به این حوزه وارد کند.
