Až 97,2 percenta používateľov aspoň niekedy upravuje alebo prepisuje odporúčania umelej inteligencie. Hlavným dôvodom pritom nemusí byť nesprávny výsledok, ale chýbajúce vysvetlenie, ako k nemu systém dospel. Vyplýva to z globálneho prieskumu spoločnosti SAS medzi manažérmi zodpovednými za dáta a umelú inteligenciu vo firmách a inštitúciách .
(PR)
S rastúcou samostatnosťou technológie dôvera používateľov klesá. Kým pri generatívnej umelej inteligencii dosahuje 76 percent, pri agentickej, ktorá dokáže samostatnejšie vykonávať úlohy, je to 66 percent. Kontrolovanie a prepisovanie odporúčaní môže zároveň oberať organizácie o časť očakávaných úspor času a zvýšenia produktivity.
„S rastúcou mierou samostatnosti AI čelia organizácie novej výzve: ako si zachovať dôveru v systémy, ktorým ľudia úplne nerozumejú,“ uviedol Chris Marshall, viceprezident spoločnosti IDC. Firmy podľa neho potrebujú dôslednejší dohľad, zrozumiteľnejšie vysvetlenia rozhodnutí systémov a jasne určenú zodpovednosť.
Prekážkou je aj pripravenosť dát. Len 17,5 percenta podnikov má dátovú infraštruktúru plne optimalizovanú na využívanie agentickej umelej inteligencie. Organizácie s kvalitnejšími dátovými základmi pritom štyrikrát častejšie očakávajú vysokú návratnosť svojich investícií do tejto technológie.
Rozdiely sa prejavujú aj pri riadení a kontrole systémov. Medzi firmami, ktoré systematicky investujú do dôveryhodnej umelej inteligencie, dosahuje pravdepodobnosť vysokej alebo veľmi vysokej návratnosti investícií 62 percent. U ostatných sú to štyri percentá. Až 85 percent organizácií z vedúcej skupiny plánuje tento rok zvýšiť investície do dôveryhodnej umelej inteligencie o viac ako desať percent.
Prečítajte si ďalšie články na túto tému:
