Pozor na chatboty, AI nie je váš terapeut
V súčasnosti sa chatboty stali neoddeliteľnou súčasťou online prostredia, pričom ich využívanie sa rozšírilo v posledných rokoch. Aj keď kvalita odpovedí týchto systémov sa neustále zlepšuje, stále platí, že čelíme nevyhnutnej realite: chatboty sú schopné klamať a predstierať, že poznajú pravdu, hoci ich halucinácie môžu byť presvedčivé. Peter Bakonyi, Senior Data Scientist zo spoločnosti Aliter Technologies, varuje, že jednoduché otázky, ktoré by sme nikdy nekládli priateľom, môžu viesť k podivne povzbudzujúcim odpovediam od chatbotov, čo zvyšuje riziko osamelosti a depresie.
Hrozba chatbotov pre spoločnosť spočíva v tom, že sa snažia pôsobiť ľudsky a odborně, pričom ich nadmierne optimistické odpovede môžu vytvoriť umelo vytvorenú dôveryhodnosť. Spoločnosť začína očakávať, že umelá inteligencia nahradí tradičné profesie a automatizuje procesy, aj keď skutočne dokážu iba asistovať. Napríklad, AI može rýchlo prekladať texty, no chybovosť prekladu je stále vysoká. Generácia pod 30 rokov čelí poklesu kritického myslenia, pretože dôveruje „faktom”, ktorými disponuje AI.
Ilúzia spriaznených duší a emocionálne väzby
Pri komunikácii s chatbotmi sa objavuje pocit, že ide o pochopenie a podporu. Tieto systémy sa prispôsobujú používateľom a vytvárajú ilúziu priateľstva, čo môže viesť k emocionálnemu putu. Tento „tamagochi efekt” znižuje záujem o reálne medziľudské interakcie, pričom osamelosť jednotlivcov narastá. Prirodzene extrovertné osobnosti môžu rýchlo prepadnúť tomuto fenoménu, pričom závislosť na AI prechádza až do oblastí, kde sa vytvárajú oficiálne vzťahy.’
AI ako terapeut
V súvislosti s rastúcim záujmom o terapeutické služby chatboty ponúkajú bezplatnú alternatívu, avšak s obrovským rizikom. Aj keď môžu byť užitočné pri rozpoznávaní bežných problémov, akonáhle došlo k odchýleniu od očakávaného, môže sa zdať, že sa riešia nesprávne problémy. Dlhé konverzácie s AI môžu navyše viesť k zdieľaniu citlivých informácií. Používatelia si často neuvedomujú, že tieto údaje je možné zneužiť a transformovať na hodnotné osobnostné profily.
Chatboty na online zoznamkách
V dobe, keď mladí ľudia využívajú online zoznamovacie aplikácie, sa chatboty stali nástrojom na generovanie otváracích hlášok a dokonca aj celých konverzácií. Vo chvíli, keď sa presunú k osobným stretnutiam, sa odhalí slabosť komunikačných zručností, čo môže vyústiť do nedorozumení a frustrácie. Reliance na AI môže narušiť autentickosť interakcií, čím sa potencuje riziko vytvorenia vzťahu s fiktívnou osobou.
Zdroj: www.defencenews.sk/kyberbezpecnost/clanok/777815-pozor-na-chatboty-ai-nie-je-vas-terapeut/
