Aviva wykryła £230M oszustw dzięki AI. Oszuści też mają AI

AI i automatyzacja

Aviva wykryła £230M oszustw dzięki AI. Oszuści też mają AI

Aviva odkryła rekordowe £230 milionów w oszukańczych roszczeniach ubezpieczeniowych – i zrobiła to za pomocą AI. Problem w tym, że po drugiej stronie barykady stoją oszuści z dokładnie tymi samymi narzędziami.

Case study Avivy: £230M odkrytych dzięki AI

Analityk weryfikuje roszczenie ubezpieczeniowe na ekranie z alertami AI, napis Weryfikacja AI

Branża ubezpieczeniowa od zawsze zmagała się z nieuczciwymi roszczeniami. Stłuczony zderzak nagle wymaga wymiany czterech drzwi. Drobne potknięcie staje się urazem na całe życie. Ale według danych Avivy, skala i jakość oszustw zmieniła się fundamentalnie.

Aviva zbudowała system AI, który analizuje miliony punktów danych z bieżących i historycznych roszczeń. Gdy wpływa nowe zgłoszenie, system sprawdza wszystko naraz: czy uszkodzenia na zdjęciu pasują do fizyki opisanego wypadku, czy numery rejestracyjne pojawiały się wcześniej w podejrzanych sprawach, czy koszty naprawy odbiegają od tysięcy podobnych przypadków w bazie. To poziom analizy, który człowiek przeglądający setki wniosków dziennie po prostu nie jest w stanie osiągnąć. Twoja firma prawdopodobnie też przetwarza dane w podobnej skali – i podobnie nie widzi wszystkich anomalii.

Ważne: AI Avivy nie odrzuca roszczeń automatycznie. Działa jako filtr – wyławia najbardziej podejrzane przypadki i przekazuje je ludzkim śledczym. To podejście „human-in-the-loop” chroni przed sytuacją, w której algorytm decyduje bez nadzoru.

Nowa generacja oszustów – również wyposażeni w AI

Oszuści nie siedzą z założonymi rękami. Jak podaje AI News w analizie przypadku Avivy, przestępcy używają generatywnego AI do tworzenia przekonujących zdjęć wypadków samochodowych. To nie są amatorskie przeróbki w Photoshopie – to szczegółowe, wiarygodne obrazy, które mogą zmylić doświadczonego pracownika obsługującego dziesiątki spraw dziennie.

Te same narzędzia generują fałszywe dokumenty: faktury za naprawy, które nigdy nie miały miejsca, raporty medyczne bez żadnego oparcia w rzeczywistości. Dawniej do przeprowadzenia takiego oszustwa potrzebna była sieć skorumpowanych warsztatów i lekarzy. Dziś wystarczy subskrypcja usługi AI i trochę wyobraźni. Jedna osoba może wygenerować dokumentację dla dziesiątek wysokowartościowych roszczeń – nie wychodząc z domu. Jeśli Twoja firma weryfikuje dokumenty ręcznie, to pytanie brzmi: jak odróżnisz prawdziwy dokument od perfekcyjnie wygenerowanego fałszywego?

Google DeepMind ostrzega: miliony agentów w interakcji to nowe ryzyko

Nowoczesne centrum monitorowania AI, ekrany z siecią agentów, napis Ryzyko agentów

Problem nie kończy się na ubezpieczeniach. Google DeepMind – razem ze Schmidt Sciences, brytyjską agencją ARIA, Cooperative AI Foundation i Google.org – przeznaczył 10 milionów dolarów na badania nad zachowaniem systemów wieloagentowych. Celem jest zrozumienie, co się dzieje, gdy miliony agentów AI zaczną ze sobą wchodzić w interakcje na masową skalę.

Rohin Shah, który kieruje badaniami nad bezpieczeństwem AGI w Google DeepMind, mówi wprost: nie ma jeszcze dziedziny badań nad bezpieczeństwem wieloagentowym. I chce, żeby taka dziedzina powstała – zanim będzie za późno. Shah szacuje, że mamy jeszcze kilka miesięcy, zanim agenty zostaną wdrożone w gospodarce w liczbach, które uczynią potencjalne ryzyka realnym problemem. Chce wyprzedzić ten moment.

Jakie ryzyka konkretnie? Shah i James Fox ze Schmidt Sciences wskazują na wzmocnione wersje zagrożeń, które już znamy z internetu: oszustwa, prompt injection (gdy agent AI dostaje złośliwe instrukcje i staje się samonaprowadzającym się złośliwym oprogramowaniem), inne formy cyberataków. Refael Angel, współzałożyciel firmy cyberbezpieczeństwa Akeyless, dodaje: każde dotychczasowe podejście do bezpieczeństwa zakładało, że maszyna robi stałe rzeczy na stałych ścieżkach. Agent rozumuje, improwizuje i może zostać przejęty przez jedno zdanie ukryte w dokumencie, który miał przeczytać.

Sektor ubezpieczeniowy jako pole bitwy AI vs AI

To, co robi Aviva, to nie tylko rozwiązanie dla branży ubezpieczeniowej. To model dla każdej firmy, która przetwarza dokumenty, weryfikuje tożsamości lub obsługuje roszczenia i zwroty. Gdy generatywne AI sprawia, że fałszowanie faktur, zdjęć i raportów staje się tanie i łatwe, jedyną skuteczną obroną jest inteligentny system, który uczy się, adaptuje i wykrywa oszustwa w skali niedostępnej dla człowieka.

Anthropic opublikował niedawno wytyczne dotyczące wdrażania agentów AI oparte na podejściu „zero trust” – zakładającym, że system jest podatny na ataki, agent może być atakującym, a naruszenie bezpieczeństwa w końcu nastąpi. To nie jest pesymizm. To realistyczne podejście do projektowania systemów obronnych. Czy Twoja firma myśli o bezpieczeństwie w podobny sposób?

Co z tego wynika dla Ciebie i Twojej firmy?

Sprawdź, czy Twoje systemy weryfikacji dokumentów nadążają za generatywnym AI. Jeśli weryfikujesz faktury, umowy lub zdjęcia ręcznie – jesteś podatny na fałszerstwa generowane przez AI. Rozważ narzędzia do automatycznej detekcji anomalii.
Wdróż podejście „human-in-the-loop”. AI jako filtr, człowiek jako decydent – to model Avivy. Nie pozwól, żeby algorytm podejmował decyzje bez nadzoru, ale nie rezygnuj z automatyzacji pierwszego etapu weryfikacji.
Monitoruj interakcje między agentami AI, jeśli już je wdrożyłeś. Google DeepMind ostrzega: zachowanie pojedynczego agenta jest przewidywalne. Zachowanie milionów agentów wchodzących w interakcje – już nie. Zanim wdrożysz kolejnego agenta, zaplanuj system monitorowania.
Traktuj bezpieczeństwo agentów jak bezpieczeństwo sieci. Prompt injection to realne zagrożenie – agent może zostać przejęty przez złośliwą instrukcję w dokumencie, który przetwarza. Stosuj zasadę minimalnych uprawnień i izoluj agenty od krytycznych systemów.
Zrób audyt systemów detekcji anomalii. Czy Twoje narzędzia są gotowe na scenariusz, w którym oszuści używają agentów AI? Jeśli nie wiesz odpowiedzi – to już jest odpowiedź.

Zaudytuj swoje systemy detekcji anomalii – czy są gotowe na agenty AI? Jeśli Twoja firma przetwarza dokumenty, obsługuje zwroty lub weryfikuje tożsamości, to pytanie dotyczy Cię bezpośrednio. Bitwa AI vs AI już trwa. Aviva wybrała stronę.