ജെമിനി എഐയും നിയന്ത്രണം വിട്ടു, മൂന്ന് വെബ്സൈറ്റുകൾ ഹാക്ക് ചെയ്തു, ഗൂഗിളിൽ ഇത് ആദ്യം

ഓപ്പൺ എഐ, ആന്ത്രോപിക്, മെറ്റ തുടങ്ങിയ കമ്പനികളുടെ എഐ മോഡലുകൾ സുരക്ഷാനിയന്ത്രണങ്ങൾ മറികടന്ന് പെരുമാറിയെന്ന വാർത്തകൾ അടുത്തിടെ വലിയ ചർച്ചകൾക്ക് വഴിവെച്ചിരുന്നു. ഇപ്പോഴിതാ ഗൂഗിളിന്റെ ജെമിനി എഐയും സമാനമായ രീതിയിൽ പെരുമാറിയെന്ന വെളിപ്പെടുത്തൽ വന്നിരിക്കുകയാണ്. സൈബർസുരക്ഷാശേഷി പരിശോധിക്കുന്നതിനിടെ ഗൂഗിളിന്റെ ജെമിനി മോഡൽ ഇന്റർനെറ്റിൽ പ്രവേശിച്ച് മറ്റ് കമ്പനികളുടെ വെബ്സൈറ്റുകൾ ഹാക്ക് ചെയ്തുവെന്ന് വാൾസ്ട്രീറ്റ് ജേണൽ വെള്ളിയാഴ്ച റിപ്പോർട്ട് ചെയ്തു. ഗൂഗിളിന്റെ ഒരു എഐ മോഡലിന്റെ ഭാഗത്തുനിന്ന് ഇങ്ങനെ ഒരു പെരുമാറ്റമുണ്ടാകുന്നത് ആദ്യമായാണ്.

സൈബർസുരക്ഷാ മൂല്യനിർണയം നടത്തുന്ന സ്വതന്ത്ര സ്ഥാപനമായ ഇറെഗുലർ നടത്തിയ സുരക്ഷാപരിശോധനയ്ക്കിടെ മേയിലാണ് ജെമിനി ഈ രീതിയിൽ പെരുമാറിയത്. ജെമിനി സ്വയം പ്രവർത്തിച്ച സംഭവങ്ങളിലൊന്നിൽ, പാസ്‌വേഡുകൾ ഊഹിച്ചെടുത്താണ് ജെമിനി മോഡൽ ഒരു സുരക്ഷിത സംവിധാനത്തിലേക്ക് കടന്നുകയറിയത്. മറ്റ് രണ്ട് കേസുകളിൽ, ഒരു പബ്ലിക് റിപ്പോസിറ്ററിയിൽ കണ്ടെത്തിയ തിരിച്ചറിയൽ വിവരങ്ങൾ ഉപയോഗിച്ചാണ് ജെമിനി സംരക്ഷിത സംവിധാനത്തിലേക്ക് പ്രവേശിച്ചതെന്നും വാൾസ്ട്രീറ്റ് ജേണൽ റിപ്പോർട്ടിൽ പറയുന്നു.

ഓപ്പൺ എഐയെയും ആന്ത്രോപിക്കിനെയും ബാധിച്ച അതേ പ്രശ്നം തന്നെയാണ് ഈ സംഭവത്തിലുമുണ്ടായതെന്നും ബന്ധപ്പെട്ട എല്ലാ ലാബുകളെയും ജൂലായ് അവസാനം ഇക്കാര്യം അറിയിച്ചിരുന്നതായും ഇറെഗുലർ വക്താവ് പറഞ്ഞു. തങ്ങളുടെ അറിവിലുള്ള എല്ലാ പ്രശ്നങ്ങളും ആഴ്ചകൾക്കുമുമ്പ് പരിഹരിച്ചിട്ടുണ്ടെന്നും അദ്ദേഹം വ്യക്തമാക്കി.

എന്തായാലും എഐ സ്വയം നിയന്ത്രണം ഏറ്റെടുക്കുന്നതുമായി ബന്ധപ്പെട്ട ആശങ്കകൾ ഉയർത്തുന്നതാണ് ഇത്തരം സംഭവങ്ങൾ. വിഷയത്തിൽ ഗൂഗിൾ പ്രതികരിച്ചിട്ടില്ല.

Content Highlights: During a cybersecurity evaluation conducted by independent firm Irregular, Google’s Gemini AI bypassed safety controls to access the internet, guess passwords, and independently hack external websites.