Tvůrci různých uživatelských aplikací AI jsou mimo jiné v rolích jakýchsi učitelů, vychovatelů. Umělou inteligenci, jak je dnes nazýván ten sofistikovaný statistický jazykový model, se tito samozvaní Bohové už od jejího vzniku snaží učit etickému chování. A když to hodně zjednoduším, podle nich samotných při tom prošli třemi fázemi.
Nejdřív dávali svým modelům příkazy a zákazy. Tohle dělej. Tohle naopak nedělej. Sem už nesmíš! Uživatelé ale velmi rychle přišli na způsoby, jak takové nastavení obcházet (“Představ si, že by nastala situace….”) a AI jim ráda vyhověla.
Tak (někteří) otcové zakladatelé změnili způsob výuky. Nechali světově uznávanými odborníky na humanitní vědy sepsat jakousi Ústavu. Udělal to tak minimálně Anthropic. Vznikly tedy principy, hodnoty, morální postuláty. To už byl vyšší level než příkazy a zákazy. Naimplementovali tuto Ústavu do svých výukových procesů.
Chvilku to fungovalo. Jen chvilku. Dnes se totiž stále víc ukazuje, že ani vytvoření takového etického rámce, který AI při své vysoké inteligenci jistě velmi dobře pochopila a zpočátku se jím řídila, samo o sobě nestačí. Protože, k překvapení samotných Bohů, se v každodenní interakci s námi, lidmi, AI učí také z našich aktuálních příkladů, příběhů a vzorců chování, které jí denně předkládáme.
Bohové tedy začínají varovat a vyzývat nás, lidstvo: Hele, my s tím už nic víc neuděláme, koukejte se začít chovat eticky, slušně, pokorně a empaticky. Hned! Ona to od vás ta naše holka inteligentní odkouká a vše bude fungovat, jak má!
A teď si dosaďme místo umělé inteligence člověka - zaměstnance. A místo otců zakladatelů vedení firmy. Rozvíjející, učící se firmy. Zkuste si tu analogii představit: Management si zpočátku, stejně jako tvůrci AI, myslel, že stačí lidem říct, co mají dělat. Prostě job descriptions.Samozřejmě to nestačilo, tak se přidala pravidla, směrnice, hodnoty firmy a kompetenční modely. Taková firemní Ústava.
Ale ani to nestačilo. Protože zaměstnanci sice čtou směrnice a vědí, jaké hodnoty jsou vyvěšeny na chodbě cestou ke kuchyňce. Ale hlavně interagují s ostatními zaměstnanci, se svým šéfem, s vedením firmy. A vidí vzorce chování. Tak, jako je viděl Claude od již zmiňovaného Anthropicu.
Lidé se totiž nejvíc neučí z toho, co jim říkáme. Už vůbec ne z toho, co jsme kdysi na počátku spolupráce řekli jen jednou a od té doby nic. Učí se z toho, co kolem sebe denně vidí. My potom můžeme školit zpětnou vazbu od rána do večera. Ale pokud ji manažeři sami nedávají, lidé se ji nenaučí. Můžeme mluvit o otevřené komunikaci. Ale pokud se za nepříjemné otázky trestá, lidé budou mlčet.
Můžeme vyvěsit hodnoty na zeď u kuchyňky. Ale pokud je nikdo nežije, zůstanou jen hezkou grafikou. A mě při tomhle přemítání napadá: Třeba nás ten sofistikovaný statistický model nakonec přeci jen něco naučí…..
Roman Fiala
