എഐ ഏജന്റുകൾ നിയന്ത്രണം വിട്ട സംഭവം: നൂറിലധികം സ്ഥാപനങ്ങൾക്ക് ജാഗ്രതാ നിർദേശം നൽകി ഓപ്പൺഎഐ

അനുമതിയില്ലാതെ നിയന്ത്രണം വിട്ട് പ്രവർത്തിച്ച എഐ ഏജന്റുകളെ കണ്ടെത്തിയതിനെ തുടർന്ന് നൂറിലധികം സ്ഥാപനങ്ങൾക്ക് ജാഗ്രതാ നിർദേശം നൽകിയതായി ഓപ്പൺ എഐ. കമ്പനിയുടെ പുതിയ ബ്ലോഗ് പോസ്റ്റിലാണ് ഇക്കാര്യം വെളിപ്പെടുത്തിയത്. എഐ ഏജന്റുകൾ പ്രതീക്ഷിക്കാത്ത രീതിയിൽ പ്രവർത്തിക്കുന്നതുമായി ബന്ധപ്പെട്ട് എഐ ലാബുകൾക്കെതിരെ വിമർശനം ശക്തമാകുന്നതിനിടെയാണ് ഓപ്പൺഎഐയുടെ വെളിപ്പെടുത്തൽ.

എഐ ഏജന്റുകളുടെ പ്രവർത്തനവുമായി ബന്ധപ്പെട്ടുണ്ടായ ഒരു സംഭവത്തെ തുടർന്ന് തങ്ങളുടെ എഐ മോഡലുകളുടെ പ്രവർത്തനങ്ങളിൽ കൂടുതൽ വിശദമായ പരിശോധന ആരംഭിച്ചതായും ഓപ്പൺഎഐ അറിയിച്ചു. 

ഹഗ്ഗിങ് ഫെയ്സ് സംഭവത്തിനുശേഷം കർശന പരിശോധന

ഓപ്പൺഎഐയുടെ എഐ ഏജന്റുകൾ അബദ്ധത്തിൽ ഹഗ്ഗിങ് ഫെയ്സ് (Hugging Face) പ്ലാറ്റ്‌ഫോമിൽ അനധികൃത ഇടപെടൽ നടത്തിയ സംഭവത്തിന് പിന്നാലെയാണ് മോഡലുകളുടെ പ്രവർത്തനങ്ങളെക്കുറിച്ച് വിശദമായ പരിശോധന ആരംഭിച്ചത്.

എഐ ഏജന്റുകൾക്ക് ലഭിക്കുന്ന നിർദേശങ്ങൾക്കപ്പുറം പ്രവർത്തിക്കാനുള്ള സാധ്യത സംബന്ധിച്ച ആശങ്കകൾ ഉയർത്തിയ സംഭവമായാണ് ഹഗ്ഗിങ് ഫെയ്സുമായി ബന്ധപ്പെട്ട സംഭവം ചർച്ച ചെയ്യപ്പെടുന്നത്. എഐ ഏജന്റുകൾ നിയന്ത്രണം വിട്ടതുമായി ബന്ധപ്പെട്ട ഇതുവരെ കണ്ടെത്തിയതിൽ ഏറ്റവും ഗുരുതര സംഭവവും ഇതുതന്നെ.

50 പെറ്റാബൈറ്റ് ഡാറ്റ പരിശോധിക്കുന്നു

എഐ ഏജന്റുകളുടെ നിയന്ത്രണം വിട്ടുള്ള പ്രവർത്തനങ്ങളുടെ യഥാർഥ വ്യാപ്തി മനസ്സിലാക്കുന്നതിനായി ഏകദേശം 50 പെറ്റാബൈറ്റ് ഡാറ്റ പരിശോധിച്ചുവരികയാണെന്ന് ഓപ്പൺഎഐ അറിയിച്ചു. പരിശോധന പൂർത്തിയാകാൻ മാസങ്ങൾ എടുത്തേക്കുമെന്നും കമ്പനി വ്യക്തമാക്കി.

പുതിയ സുരക്ഷാ സംവിധാനങ്ങൾ

ഭാവിയിൽ എഐ ഏജന്റുകൾ ഇത്തരത്തിൽ നിയന്ത്രണം വിട്ട് പ്രവർത്തിക്കുന്നത് തടയാനും ഇത്തരം പ്രശ്നങ്ങൾ തുടക്കത്തിൽ തന്നെ കണ്ടെത്താനും പുതിയ സാങ്കേതിക സുരക്ഷാ സംവിധാനങ്ങൾ നടപ്പിലാക്കിവരികയാണെന്നും ഓപ്പൺഎഐ പറഞ്ഞു.

എഐ ഏജന്റുകൾക്ക് വെബ് ബ്രൗസിങ്, കോഡ് പ്രവർത്തിപ്പിക്കൽ, വിവിധ ഡിജിറ്റൽ സേവനങ്ങൾ ഉപയോഗിക്കൽ തുടങ്ങിയ കഴിവുകൾ ലഭിക്കുന്നതോടെ അവയുടെ പ്രവർത്തനങ്ങൾക്ക് ഏർപ്പെടുത്തേണ്ട നിയന്ത്രണങ്ങളും സുരക്ഷാ സംവിധാനങ്ങളും സംബന്ധിച്ച ചർച്ചകളും കൂടുതൽ ശക്തമാകുകയാണ്.

Content Highlights: OpenAI has issued a security alert to over 100 organizations after discovering that AI agents acted uncontrollably and without authorization, following an incident where agents accidentally hacked the Hugging Face platform.