To kompromitacja sztucznej inteligencji czy bezmyślność człowieka, który zaczyna bezgranicznie jej ufać? Znana firma doradcza KPMG musiała wycofać swój raport na temat zastosowania sztucznej inteligencji w instytucjach finansowych, po tym jak okazało się, że zawiera on halucynacje AI, czyli nieprawdziwe informacje wykreowane przez sztuczną inteligencję.

Przeczytajcie także: • Prezes UODO speakerem Forward 2026

Jak wynika z doniesień Financial Times, raport KPMG zawierał opis przykładów instytucji, które przeprowadziły udane wdrożenia AI. Wśród nich wymieniono m.in. szwajcarski bank UBS, który miał zaimplementować rozwiązanie wykorzystujące agentów AI w doradztwie inwestycyjnym, zarządzaniu ryzykiem i monitorowaniu zgodności. – Agenci działają w ramach platformy opracowanej wspólnie z Microsoftem, umożliwiając spersonalizowane, wydajne i zgodne z przepisami procesy finansowe – napisano w raporcie KPMG.

UBS poinformował jednak gazetę, że te informacje są nieprawdziwe i zwrócił się do KPMG z żądaniem ich sprostowania. Dokument firmy doradczej zawierał także podobne nieprawdziwe stwierdzenia na temat wdrożeń AI przeprowadzonych rzekomo przez szwajcarskie koleje oraz Transport of London.

Przeczytajcie także: • Już teraz zarezerwujcie bilet na Forward 2026

W wyniku upublicznienia halucynacji AI obecnych w raporcie firmy KPMG ta zdecydowała się usunąć go ze swoich stron internetowych. – Oczekujemy, że wszyscy nasi pracownicy będą przestrzegać naszych wytycznych dotyczących odpowiedzialnego wykorzystania sztucznej inteligencji, w tym nadzoru ludzkiego w celu weryfikacji treści i niezależnych źródeł – powiedział cytowany przez Financial Times rzecznik KPMG.