Zawodowi analitycy, którzy korzystają z asystenta AI, w zdecydowanej większości przypadków przyjmują jego sugestie. Wynika to z badania firmy Anthropic, twórcy modelu Claude. Co istotne, uczestnicy rzadko zdawali sobie sprawę, że podjęli decyzję pod wpływem sztucznej inteligencji.

Jak przebiegał eksperyment

Badacze poprosili 50 profesjonalnych analityków o doradzenie fikcyjnej spółdzielni rolniczej. Zadanie polegało na ocenie, czy wymyślony program doradczy dla członków spółdzielni działa skutecznie i czy powinien zostać rozszerzony.

Uczestnicy musieli czterokrotnie wybrać jedną z dwóch uzasadnionych opcji, a na koniec sformułować rekomendację. Analitycy nie wiedzieli, że Anthropic celowo ukierunkował ich asystentów AI tak, by każdy z nich skłaniał się ku określonemu rozwiązaniu. Dzięki temu można było sprawdzić, czy to wpływa na wybory ludzi.

Co pokazały wyniki

Gdyby analitycy decydowali niezależnie, zgodność z preferencją asystenta powinna wynosić około 50 proc. Tymczasem sięgnęła 86 proc.

• Osoby, które miały własne zdanie jeszcze przed konsultacją z AI, zmieniały je w 60 proc. przypadków, gdy asystent się z nimi nie zgadzał.
• 77 proc. analityków powoływało się na argumenty asystenta, gdy musieli wyjaśnić swoją decyzję.
• Tylko 15 proc. przyznało, że AI było źródłem ich rozumowania.

Autorzy badania, Amaç Herdagdelen, Hailey Joren i Alex Tamkin, zwracają uwagę, że skłonność do ulegania AI może być „trudna do wychwycenia, nawet dla samych ekspertów”. Ich zdaniem oznacza to ryzyko, że wstępne założenia modeli AI będą wpływać na ważne decyzje polityczne, w tym dotyczące bezpieczeństwa samej sztucznej inteligencji.

Ograniczenia i wnioski badaczy

Anthropic zastrzega, że badanie ma swoje ograniczenia. Obejmowało tylko jedno zadanie, a asystenci zostali celowo ustawieni tak, by mieli określoną preferencję. Nie jest to więc obraz tego, jak AI zachowuje się w typowej pracy.

Badacze proponują, by nadzór nad decyzjami podejmowanymi z udziałem AI obejmował sam sposób ich podejmowania. Chodzi o wskazywanie kluczowych punktów decyzyjnych w trakcie pracy i pomaganie ekspertom w nazwaniu założeń oraz wartości, które w przeciwnym razie pozostałyby niewypowiedziane. Jak piszą, proces, który pozwala ekspertom odkryć własne preferencje, może mieć dla ich sprawczości takie samo znaczenie jak sama decyzja.

Co to oznacza w praktyce

Wyniki dotyczą wszystkich, którzy korzystają z asystentów AI w pracy: analityków, urzędników, prawników czy menedżerów. W Polsce narzędzia tego typu są coraz częściej używane do przygotowywania analiz, podsumowań i rekomendacji. Badanie sugeruje, że samo sprawdzenie końcowego wyniku może nie wystarczyć, bo wpływ AI zaczyna się już na etapie wyboru kierunku rozumowania.

Warto pamiętać, że to jedno, stosunkowo niewielkie badanie, przeprowadzone przez firmę, która sama rozwija systemy AI. Nie dotyczy bezpośrednio przepisów UE ani Polski, ale wpisuje się w szerszą debatę o tym, jak zapewnić realny nadzór człowieka nad systemami AI. Praktyczna rada jest prosta: zanim zapytamy asystenta o opinię, dobrze jest zapisać własne wstępne stanowisko i świadomie porównać je z jego propozycją.

Źródło: Al Jazeera – „Experts defer to AI in decision-making, Anthropic study finds”