Pojawia się nowa forma oszustwa, wykorzystująca sztuczną inteligencję (AI) do klonowania głosów, co stanowi poważne ryzyko dla milionów, ostrzega Starling Bank w Wielkiej Brytanii. Oszuści wykorzystują teraz AI do replikowania głosu osoby na podstawie zaledwie trzech sekund dźwięku — często pochodzących z publicznie dostępnych filmów online.
Ci oszuści są w stanie zidentyfikować znajomych i członków rodziny danej osoby, używając sklonowanego głosu do przeprowadzania telefonicznych oszustw z prośbą o pieniądze. Potencjał tego typu oszustwa, które może wpłynąć na miliony, jest wysoki, jak zauważono w komunikacie prasowym Starling Bank w środę.
Według badania przeprowadzonego przez bank we współpracy z Mortar Research na ponad 3000 dorosłych osobach, ponad jedna czwarta respondentów zgłosiła, że w ciągu ostatniego roku padła ofiarą oszustwa polegającego na klonowaniu głosu za pomocą sztucznej inteligencji. Co alarmujące, 46% ankietowanych nie wiedziało o istnieniu takich oszustw, podczas gdy 8% stwierdziło, że wysłałoby pieniądze, gdyby poprosił o to znajomy lub członek rodziny, nawet jeśli rozmowa wydawałaby się niezwykła.
Lisa Grahame, dyrektor ds. bezpieczeństwa informacji w Starling Bank, podkreśliła niebezpieczeństwo, stwierdzając, że ludzie często publikują nagrania głosowe w Internecie, nie zdając sobie sprawy z potencjalnych zagrożeń, na jakie się narażają. Aby zwalczać te oszustwa, Starling Bank radzi rodzinom, aby ustaliły „bezpieczną frazę” do weryfikacji tożsamości podczas rozmów telefonicznych. Ostrzegają jednak również przed udostępnianiem tej frazy w wiadomościach tekstowych, ponieważ może ona zostać przechwycona przez oszustów.
Wraz ze wzrostem zaawansowania sztucznej inteligencji w naśladowaniu ludzkich głosów, rosną obawy o jej niewłaściwe wykorzystanie, nie tylko w oszustwach finansowych, ale także w szerzeniu dezinformacji. Na początku tego roku OpenAI, twórcy ChatGPT, wprowadzili swoje narzędzie Voice Engine, ale wstrzymali się z jego publicznym udostępnieniem z powodu obaw o potencjalne niewłaściwe wykorzystanie syntetycznych głosów.
