Zarządzanie przez halucynacje

Znam kilku CEO, którzy "konsultują się z ChatGPT" przed każdą ważniejszą decyzją. Mówią o tym z dumą – jako dowód, że są nowocześni i data-driven. I z każdym rokiem takich osób jest więcej.

Za każdym razem myślę, że ta firma jest na drodze do bardzo kosztownych błędów.

Modele językowe są zaprojektowane, żeby brzmieć przekonująco. To nie uboczny efekt – to cel. Odpowiedź pewna i kompetentna jest oceniana wyżej niż ta, która przyznaje się do wątpliwości. W efekcie dostajemy narzędzie, które zawsze ma odpowiedź. Nawet gdy jej nie powinno mieć.

To się nazywa halucynacja. Model językowy nie "wie" rzeczy – przetwarza wzorce i generuje to, co statystycznie powinno nastąpić dalej. Robi to z identyczną pewnością siebie niezależnie od tego, czy ma solidne podstawy, czy nie. Dla kogoś, kto nie zna mechanizmu, wiarygodna bzdura jest nie do odróżnienia od rzetelnej analizy.

To jednak tylko narzędzie. Prawdziwy problem pojawia się wtedy, gdy lider myli analizę z osądem – i przestaje widzieć różnicę między przetworzeniem informacji a podjęciem decyzji.

Miałem okazję pracować z takimi osobami i obserwować ten proces z bliska. Ci ludzie stopniowo tracą zaufanie do własnego rozumu. Wpadają w rodzaj paranoi – każda decyzja, nawet drobna, musi przejść przez model. Jakby własna opinia stała się podejrzana, a prompt – obiektywną wyrocznią.

Efekt jest odwrotny do zamierzonego. Zamiast lepszych decyzji – więcej wahania. Zamiast pewności – uzależnienie od narzędzia, które nie rozumie kontekstu, nie zna firmy i nie poniesie żadnych konsekwencji.

Jest coś, czego model językowy nigdy nie będzie miał. Coś, o czym w erze AI zaczęliśmy mówić szeptem, jakby było oznaką nieprofesjonalizmu.

Intuicja.

Nie mam na myśli przeczucia ani zgadywania. Intuicja to skumulowane lata doświadczenia – tysiące decyzji, projektów, porażek i sukcesów, które zostawiły w człowieku coś, czego żaden model nie przetworzy. To wzorce rozpoznawane przed tym, jak zdążysz je sformułować. To wiedza, że coś nie zadziała, zanim dane zdążą to potwierdzić.

Moje najlepsze projekty powstały z intuicji. Nie wbrew danym – obok nich. Dane mówiły jedno, moje doświadczenie mówiło drugie, i miało rację.

Doświadczony ekspert, który przez lata popełniał błędy i uczył się na nich, który poniósł realne konsekwencje swoich decyzji, który rozumie kontekst branży lepiej niż jakakolwiek baza danych – jest nieporównywalnie cenniejszy niż model, który przetwarza tekst z internetu.

Co się dzieje, kiedy ktoś przestaje słuchać takich ludzi i zaczyna polegać na modelu?

Firma zamienia się w wielkie pole doświadczalne. Wieczne MVP. Nieskończone fazy testów. Błędne decyzje przykrywane jakże modnym określeniem "pivot." Każde niepowodzenie opakowywane w narrację o "uczeniu się" i "iteracji" – bo kiedy za decyzją nie stoi człowiek z doświadczeniem i intuicją, nie ma też nikogo, kto bierze za nią odpowiedzialność.

Pivot to słowo, które w wielu firmach zastąpiło słowo "pomyliliśmy się." A mylą się coraz częściej, bo coraz rzadziej pytają kogoś, kto naprawdę wie.

Jest jeszcze jeden wymiar tego problemu, rzadko omawiany. Kiedy tysiące firm w tej samej branży korzysta z tych samych modeli i tych samych prompów – popełniają te same błędy jednocześnie. Systemowo. Nie ma efektu różnorodności perspektyw, który historycznie chronił rynki. Jest jeden punkt podatności, rozłożony na całą branżę.

Homogenizacja błędów na skalę przemysłową.

Powiem wprost: jeśli zarządzasz firmą przez ChatGPT, już przegrałeś.

Nie dlatego, że AI jest złe. Używaj go – automatyzuj, deleguj generyczne zadania, przetwarzaj dane szybciej niż kiedykolwiek. Do tego jest świetne.

Ale do podejmowania decyzji używaj najlepszego modelu, jaki istnieje: swojego rozumu. I rozumu ludzi w twoim zespole, którzy mają lata doświadczenia i intuicję, której żaden model nigdy nie zastąpi.

Realna odpowiedzialność za decyzje i lata nauki na własnych błędach – tego nie wygenerujesz żadnym prompem.