Folosirea AI are efectul „broaștei fierte” asupra oamenilor, avertizează un studiu realizat la Oxford și MIT
Folosirea inteligenței artificiale (AI) pentru a îndeplini diferite sarcini ar putea eroda capacitatea oamenilor de a gândi pe cont propriu și i-ar putea face mai predispuși să renunțe, arată un nou studiu citat de The Independent.
Cercetarea avertizează că acest lucru ar putea pune utilizatorii instrumentelor de AI într-un scenariu de tip „sindromul broaștei fierte”, în care capacitățile creierului lor sunt compromise treptat, pe măsură ce se bazează tot mai mult pe inteligența artificială, fără ca ei să își dea seama de asta.
Referința este la credința populară, susținută inițial de experimente din secolul XIX dar demontată ulterior, că o broască plasată într-un vas cu apă rece nu va sări din acesta nici când ajunge să fiarbă, dacă temperatura apei este crescută treptat.
O echipă internațională de cercetători de la Universitatea Oxford, MIT, UCLA și Carnegie Mellon a declarat că studiul lor oferă dovezi pentru două consecințe îngrijorătoare ale utilizării inteligenței artificiale pentru a îndeplini sarcini: „reducerea perseverenței și afectarea rezultatelor în absența asistenței”.
Folosirea AI, „cu un cost cognitiv ridicat”
Cercetătorii le-au cerut participanților să realizeze o varietate de sarcini diferite, inclusiv legate de raționament matematic și înțelegerea textului.
Ei au constatat că „după doar 10 minute de rezolvare a problemelor cu ajutorul inteligenței artificiale, persoanele care au pierdut accesul la aceasta au avut rezultate mai slabe și au renunțat mai frecvent decât cele care nu au folosit-o niciodată”.
Descriind beneficiile utilizării inteligenței artificiale ca venind „cu un cost cognitiv ridicat”, echipa a avertizat că rezultatele lor „ridică întrebări urgente despre efectele cumulative ale utilizării zilnice a inteligenței artificiale asupra perseverenței și raționamentului uman”.
„Aceste constatări sunt deosebit de îngrijorătoare, deoarece perseverența este fundamentală pentru dobândirea abilităților și reprezintă unul dintre cei mai puternici factori predictivi ai învățării pe termen lung”, au adăugat cercetătorii.
Marea îngrijorare e despre efectele în timp
Ei au mai avertizat că, „dacă astfel de efecte se acumulează odată cu utilizarea susținută a inteligenței artificiale, sistemele actuale de AI – optimizate doar pentru utilitatea pe termen scurt – riscă să erodeze chiar capacitățile umane pe care sunt menite să le sprijine”.
„Sarcinile analizate aici, precum aritmetica fracțiilor și înțelegerea textului, pot părea delegabile unor instrumente precum calculatoarele, însă stăpânirea conceptuală a acestor abilități este o condiție prealabilă de dezvoltare. Fără aceste competențe, abilitățile de nivel superior, precum algebra sau raționamentul critic, rămân inaccesibile”, au continuat cercetătorii în lucrare.
Ei avertizează că, dacă inteligența artificială erodează motivația și perseverența necesare pentru a susține învățarea pe termen lung, efectele „se vor acumula de-a lungul anilor, iar până când vor deveni vizibile, vor fi dificil de inversat”.
„Acest lucru este analog cu efectul «broaștei fierte», în care fiecare acțiune incrementală pare lipsită de costuri, până când efectul cumulativ devine copleșitor și greu de gestionat”, au explicat aceștia.
„Oamenii pot ajunge la răspunsul corect pe moment, dar își dezvoltă mai puțin capacitatea independentă” de gândire
Grace Liu, cercetătoare în cadrul Departamentului de Învățare Automată a Universității Carnegie Mellon și coautoare a studiului, a declarat pentru The Independent că acesta indică nevoia de mai multe cercetări privind interacțiunea oamenilor cu AI.
„Îngrijorarea ține de ceea ce cercetătorii în științe cognitive numesc «dificultăți dezirabile» – acea luptă productivă care construiește abilități în timp. Dacă inteligența artificială elimină în mod constant această dificultate, oamenii pot ajunge la răspunsul corect pe moment, dar își dezvoltă mai puțin capacitatea independentă”, a explicat ea.
„Nu este vorba despre faptul că inteligența artificială ne face «mai puțin inteligenți» – este ceva mai subtil decât atât. Însă cât de semnificativ este acest efect la scară largă și în contexte diferite necesită mai multă cercetare”, a adăugat cercetătoarea.
hotnews.ro
