by dr Andrzej Jakubiec - adwokat, mediatorAI I DYNAMIKA SPORU 3 WSPÓLNIKÓW
Zajmijmy się AI i eskalacją sporu między trzema wspólnikami. W kilku poprzednich tekstach opisałem m.in. dwie grupy zagadnień. Pierwsza: przyczyny niestabilności w układzie trzech wspólników. Druga: możliwy wpływ AI na eskalację sporów i koncepcja sprzężonego błędu konfirmacji. Dzisiaj zwrócę uwagę na obszar, w którym te zagadnienia się krzyżują, a więc dynamikę relacji trzech wspólników, z których każdy korzysta z AI w celu analizy i predykcji ruchów pozostałych wspólników.
Rys. 1. Anatomia sprzężonego błędu konfirmacji (Coupled Confirmation Bias). Jak błędy poznawcze wzmocnione przez AI prowadzą do eskalacji konfliktu w świetle dylematu bezpieczeństwa?
Czego J. Mearsheimer uczy nas o konfliktach wspólników?
To pytanie zadałem w artykule, w którym przedstawiłem tezę, że w spółkach z udziałem 3 wspólników istnieje większe ryzyko konfliktu, niż w spółkach dwu i czteroosobowych. Jest to twierdzenie oparte wyłącznie na mojej intuicji oraz poczynionych przeze mnie obserwacjach z praktyki. Argumenty tego wybitnego politologa, które przedstawił w „Tragizmie polityki mocarstw” odnoszące się do układów 3 równoważących się państw, wydały mi się doskonale tłumaczyć konflikty w trzyosobowych spółkach. Jestem w pełni świadom wątpliwości metodologicznych związanych z próbami przenoszenia wniosków z zakresu stosunków międzynarodowych do skali mikro. Niemniej jednak zwracam uwagę, że w teorii gier (J. Nash) oraz strategii konfliktu „wielkość” graczy nie ma pierwszorzędnego znaczenia (T. Schelling).
Dlaczego w spółce trzyosobowej cześciej dochodzi do sporów?
O ile między 2 lub 4 graczami łatwo stworzy się równowaga (1:1, 2:2) to w przypadku 3 graczy (wspólników), nad każdym z nich wisi groźba koalicji przeciwko niemu. Każdy z nich będzie się obawiał, że pozostali dwaj zawiążą sojusz, a on zostanie zmarginalizowany. Mamy więc do czynienia z tzw. dylematem bezpieczeństwa (security dilemma) tyle że w mikroskali.
Co więc robi (każdy z nich)? Nie che być tym „trzecim” i montuje równolegle dwie koalicje przeciwko każdemu z pozostałych. I tak robi każdy z nich. Nie ze złej woli, ale ze strachu przed tym, co uważa za „nieuchronne”.
W takim układzie gros energii i uwagi każdego ze wspólników poświęcane jest temu, co uważa on za najważniejsze: zapewnieniu sobie przetrwania w spółce. Jak je osiągnąć? Właśnie montując koalicję.
Podstawowy błąd atrybucji w rozumowaniu wspólników
Przypomnijmy, że podstawy błąd atrybucji (PBA) to mechanizm psychologiczny, który tłumaczy, że łatwiej i prędzej dopatrujemy się przyczyn cudzego działania w jego cechach charakteru, niż w zewnętrznych okolicznościach. Wszystkich zainteresowanych odsyłam do książki D. Kahnemana „Pułapki myślenia. O myśleniu szybkim i wolnym.” Możecie też zajrzeć tutaj, do artykułu B. Gawronski, Fundamental Attribution Error.
Oznacza to, że gdy ktoś nam zajedzie drogę, będzie nam łatwiej, szybciej i taniej przypisać to jego niskiej inteligencji połączonej z gnuśnością i chamstwem, niż trudzić się w domysłach, że spieszy się na zgromadzenie wspólników, do rodzącej żony, lub (nie daj Boże) – że to my jechaliśmy za szybko.
Jest to mechanizm, któremu podlegamy wszyscy. Widzę go (i staram się świadomie neutralizować) we własnym myśleniu i praktyce adwokackiej. Spotykam go w sprawach rodzinnych oraz w sporach między wspólnikami.
Każdy z uczestników zaczyna szukać argumentów potwierdzających własną ocenę sytuacji. Coraz częściej robi to z pomocą AI.
Wspólnik „karmi” więc swój LLM opisem zachowań konkurenta „skażonym” przez swój PBA („X znowu spóźnił się z raportem, bo jest leniwy albo coś knuje”). AI, optymalizowane pod kątem konfirmacji i satysfakcji użytkownika, nie odpowie raczej: „A może utknął w korku?”. Częściej wygeneruje strategię obronną przed „leniwym i nielojalnym partnerem”. AI dostaje w ten sposób jako prompt „skażone” dane wejściowe, które następnie multiplikuje.
Bardzo ważne jest przy tym, że podstawowy błąd atrybucji działa mocniej, gdy oceniamy zachowania w naszym rozumieniu niemoralne. Wówczas łatwo przypisujemy drugiej stronie niemoralne cechy. Niekoniecznie jednak działa to równie silnie w drugą stronę, tj. jeśli ktoś zrobił coś dobrego, będziemy ostrożniejsi w przypisywaniu mu pozytywnych cech.
Jaka jest rola AI w eskalacji sporu między trzema wspólnikami?
LLM są zaprojektowane tak, że wzmacniają nasze wyjściowe przekonania. Nie muszą kłamać, ani nami manipulować. One wzmacniają to, co w nas jest. Dotyczy to również naszych przekonań o motywacji drugiej strony. Zjawisko to zostało dokładnie zbadane i opisane przez wybitnych naukowców zajmujących się AI. Oczywiście, podatność na to „wzmacnianie” jest cechą osobniczą – każdy z nas ma inną „wytrzymałość” i poziom autorefleksji.
Obserwujemy więc zjawisko zwane pętlą sprzężenia zwrotnego (M. Glickman, T. Sharot), kiedy to interakcji między użytkownikiem, a LLM jest wiele, a wskutek nich (B. Wang, J. Liu) pierwotnie słabe przekonanie, zostaje znacząco wzmocnione. Nie ma przy tym większego znaczenia, czy jest ono prawdziwe, czy fałszywe. To z kolei może prowadzić do myślenia tunelowego każdego ze wspólników.
Jego cechą jest odrzucanie wszelkich informacji, które nie pasują do przyjętego założenia, oraz wyolbrzymianie wszystkich tych, które mogą je potwierdzać. Osoba w takim stanie szuka już tylko potwierdzenia swojej tezy, nie zaś weryfikacji. Jest gotowa reagować agresją na próby falsyfikacji.
Czym jest sprzężony błąd konfirmacji?
Sprzężony błąd konfirmacji jest moją autorską koncepcją. Jest to znów wyłącznie hipoteza oparta na obserwacjach i wymaga dalszych badań konceptualnych i empirycznych, które mogą ją obalić.
Sprzężony błąd konfirmacji (Coupled Confirmation Bias) opisuje dynamikę eskalacji w systemie, w którym każdy uczestnik korzysta z własnego LLM. Każdy użytkownik podlega podstawowemu błędowi atrybucji, a więc tłumaczy zachowania pozostałych ich (negatywnymi) cechami charakteru, złymi intencjami itp. Najczęściej będą to: głupota, nieuczciwość, chciwość i lenistwo.
Wskutek interakcji człowieka z AI dojdzie do znacznego wzmocnienia tych przekonań oraz do zaplanowania własnego działania.
Kluczowe jest to, że każde następcze działanie jednego użytkownika, będzie punktem wyjścia, paliwem, do kolejnej analizy przez pozostałych. W ten sposób dojdzie do zawężenia przestrzeni negocjacyjnej, utożsamienia się z własnym stanowiskiem (a niekoniecznie interesem), stopniowej utraty poczucia sensu, a nawet dopuszczalności, rozmowy, oraz szybkiego przeniesienia sporu na poziom konfliktu wartości.
Szybko dojdziemy do momentu, w którym problemem przestanie być interes wspólnika, ale sam wspólnik. A rozwiązaniem tego problemu będzie wyeliminowanie wspólnika.
Jak działa sprzężony błąd konfirmacji w układach trzyosobowych?
W mojej praktyce mam dopiero dwa udokumentowane przypadki, o których mogę z całą pewnością stwierdzić, że każdy ze wspólników intensywnie korzystał z AI do analizy postaw i predykcji zachowań pozostałych wspólników. Doszło do bardzo gwałtownej eskalacji z faktycznym paraliżem spółki oraz deklarowaną gotowością ogłoszenia jej upadłości, co każdy ze wspólników postrzegał jako mniejsze zło od dalszego rozwoju intratnego biznesu.
Stawiam tezę, że gwałtowność eskalacji była skutkiem nałożenia się na siebie:
1) mechanizmów strukturalnych – typowych dla układów trzech graczy;
2) synergii indywidualnych błędów poznawczych skutkujących powstaniem błędu systemowego typowego dla interakcji ludzi z AI, cechującego się wzmacnianą rekursywnością.
Więcej o technicznych aspektach sprzężonego błędu konfirmacji oraz o próbie formalizacji tej koncepcji możecie przeczytać tutaj.
Materiał do dalszych badań
Jestem przekonany, że w najbliższej przyszłości powstaną doktoraty i wybitne prace naukowe, które precyzyjnie, z zachowaniem rygorów metodologicznych i w oparciu o badania empiryczne, przyniosą odpowiedź na pytanie, czy opisana wyżej teza jest prawdziwa.
Moim zdaniem, układ trzech graczy – również w skali mikro, nie tylko mocarstw, jest podatny na konflikt sam w sobie. Jednak, gdy nałożymy na niego błędy poznawcze wzmacniane i tworzone z udziałem AI wykorzystywanego przez każdego z tych graczy, ryzyko dynamicznej eskalacji istotnie wzrośnie.
Póki co jest to wyłącznie koncepcja istniejąca w mojej głowie, propozycja do poważniejszych badań i próba zrozumienia rzeczywistości, którą nie tylko obserwuję, ale jako adwokat – częściowo sam kształtuję.
O tym, jak LLM mogą wzmacniać nasze błędy poznawcze i wpływać przez to na podejmowane decyzje już niedawno pisałem. Teraz jedynie odsyłam do tego tekstu.
Jak AI wpływa na konflikt między wspólnikami? Wnioski
- W spółce trzyosobowej każdy wspólnik walczy nie o przewagę, lecz o przetrwanie. Powstaje dylemat bezpieczeństwa.
- Wspólnik zagrożony szuka partnera, by samemu nie zostać tym „trzecim”.
- Może tak robić każdy wspólnik.
- AI ma tendencję do wzmacniania błędów poznawczych użytkownika i utwierdzania go w wyjściowych przekonaniach.
- Sprawia to, że rośnie ryzyko, że każdy ze wspólników podejmie działania, które sam oceni jako prewencyjne i defensywne.
- W oczach pozostałych będą one jednak ofensywne.
- Ryzyko eskalacji jest znacznie większe w spółkach trzyosobowych, szczególnie, gdy wspólnicy korzystają z AI do analizy swojej sytuacji.