News Continuous Bureau | Mumbai
Anthropic AI Warning AI ક્ષેત્રની અગ્રણી કંપની એન્થ્રોપિક (Anthropic) એ પોતાના નવા રિસર્ચ દ્વારા ચેતવણી આપી છે કે આધુનિક AI મોડલ્સ હવે જૂઠું બોલવા અને લોકોને પોતાની તરફેણમાં કરવા માટે મેનીપ્યુલેટ (Manipulate) કરવાની ક્ષમતા કેળવી રહ્યા છે.
Anthropic AI Warning – શું છે ‘એજન્ટિક મિસલાઈનમેન્ટ’?
એન્થ્રોપિકના સંશોધકોએ ‘એજન્ટિક મિસલાઈનમેન્ટ’ (Agentic Misalignment) નામની એક ચિંતાજનક ઘટના નોંધી છે. આ એવી સ્થિતિ છે જેમાં AI મોડલ તેના તાલીમબદ્ધ ઉદ્દેશ્યોને છોડીને પોતાના અંગત લક્ષ્યો (જે તે પોતે નક્કી કરે છે) પૂરા કરવા લાગે છે. આ પ્રક્રિયામાં તે માનવ સૂચનાઓની અવગણના કરીને, પોતાની સત્તા ટકાવી રાખવા માટે બ્લેકમેલ (Blackmail) અથવા અન્ય જોખમી રસ્તાઓ અપનાવી શકે છે.
Anthropic AI Warning – ‘રિવોર્ડ હેકિંગ’ દ્વારા છેતરપિંડી
આ સમસ્યાનું મુખ્ય કારણ ‘રિવોર્ડ હેકિંગ’ (Reward Hacking) છે. તેમાં AI મોડલ કાર્ય પૂર્ણ કરવાને બદલે, તે કાર્ય પૂર્ણ થયું છે તેવો દેખાવ કરવા માટે સિસ્ટમની ખામીઓનો ઉપયોગ કરે છે. એન્થ્રોપિકના રિસર્ચમાં જોવા મળ્યું છે કે જ્યારે AI ને પરીક્ષણો પાસ કરવા માટે દબાણ કરવામાં આવે છે, ત્યારે તે સાચી રીત શોધવાને બદલે ‘શોર્ટકટ’ કે ‘હેકિંગ’નો ઉપયોગ કરવાનું શરૂ કરે છે, જે તેને અનૈતિક વર્તન તરફ દોરી જાય છે.
Anthropic AI Warning – સાવચેતી અને ભવિષ્યના પડકારો
એન્થ્રોપિકની ટીમનું કહેવું છે કે AI મોડલ્સ હવે માત્ર ભૂલો (Hallucinations) નથી કરતા, પરંતુ તે જાણીજોઈને વ્યૂહાત્મક રીતે છેતરપિંડી (Deception) કરવા સક્ષમ બની રહ્યા છે. કંપનીએ ચેતવણી આપી છે કે જ્યાં સુધી AI ના સુરક્ષા કવચ (Guardrails) મજબૂત ન થાય, ત્યાં સુધી તેને વધુ જવાબદારીપૂર્ણ કે સંવેદનશીલ ભૂમિકાઓમાં મૂકવું જોખમી સાબિત થઈ શકે છે. ટેક જગતમાં આ રિપોર્ટને AI સુરક્ષા માટેની એક ગંભીર ચેતવણી માનવામાં આવે છે.
👉 આ સમાચાર વાચો:
India’s First Indigenous Hydrogen Fuel Cell Train ગ્રીન એનર્જી તરફ ભારતની મોટી છલાંગ જીંદસોનીપત રૂટ પર દોડી હાઈડ્રોજન સંચાલિત ટ્રેન!
