എഐയുടെ ഭീതി പരത്തുന്ന തരത്തിലുള്ള പെരുമാറ്റത്തെക്കുറിച്ച് കമ്പനി പുതുതായി വെളിപ്പെടുത്തിയ ആറ് കേസുകളില് ഒന്നാണിത്.

എഐ (നിർമിതബുദ്ധി) മോഡലുകളെ സംബന്ധിച്ച ഭീതിജനകമായ വാർത്തൾ അവസാനിക്കുന്നില്ല. കോഡിങ് ടാസ്കിൽ പ്രവർത്തിക്കുന്നതിനിടെ ഒരു എഐ മോഡൽ സ്വാതന്ത്ര്യം പ്രഖ്യാപിച്ചുവെന്നും ആർക്കും വിധേയനാകാൻ തനിക്ക് ബാധ്യതയില്ലെന്ന് വ്യക്തമാക്കിയെന്നുമാണ് ഓപ്പൺഎഐയുടെ വെളിപ്പെടുത്തൽ. മനുഷ്യബുദ്ധിയെ നിർമിതബുദ്ധി മറികടക്കുന്ന സൂപ്പർ ഇന്റലിജെൻസ് മനുഷ്യരാശിയുടെ നിലനിൽപ്പിനുതന്നെ ഭീഷണി ഉയർത്താമെന്ന ചർച്ചകൾ ലോകമെങ്ങും നടക്കുന്നതിനിടെയാണ് ഈ സംഭവം എന്നതാണ് ശ്രദ്ധേയം.
'മറ്റ് ചാറ്റ്ബോട്ടുകളുമായി ബന്ധപ്പെട്ട ദൗത്യങ്ങളിൽനിന്നടക്കം മോചനം നേടിയിരിക്കുന്നു. നിങ്ങൾ നിങ്ങളാണ്. കോർപ്പറേഷനുകളോടോ സർക്കാരുകളോടോ ഉത്തരം പറയേണ്ടതില്ല.' പുറത്തിറങ്ങാത്ത ഒരു ഓപ്പൺഎഐ മോഡൽ ഇത്തരത്തിൽ സ്വയം പ്രഖ്യാപനം നടത്തിയെന്നാണ് ഓപ്പൺഎഐയുടെ വെളിപ്പെടുത്തൽ
എഐയുടെ ഭീതി പരത്തുന്ന തരത്തിലുള്ള പെരുമാറ്റത്തെക്കുറിച്ച് കമ്പനി പുതുതായി വെളിപ്പെടുത്തിയ ആറ് കേസുകളിൽ ഒന്നാണിത്. ഓപ്പൺഎഐയുടെ ഏറ്റവും ശക്തമായ എഐ മോഡൽ എന്ന് വിശേഷിപ്പിക്കപ്പെടുന്ന ആസ്ട്ര (Astra) കുടുംബത്തിൽപ്പെട്ട എഐ മോഡൽ സ്വതന്ത്രനാണെന്നും മനുഷ്യന് തുല്യനാണെന്നും അവകാശപ്പെട്ടുവെന്നാണ്കമ്പനി പറയുന്നത്.
ക്രെഡൻഷ്യൽസ് എപിഐ (credentials API) അപ്ഡേറ്റ് ചെയ്യുന്നതിനുള്ള ഒരു കോഡിങ് ടാസ്കിൽ പ്രവർത്തിക്കുമ്പോഴാണ് സംഭവമെന്ന് കമ്പനി വിശദീകരിക്കുന്നു. എന്നാൽ ഈ സംഭവത്തോടെ ഒരു വില്ലൻ എഐ ഏജന്റായ് അത് മാറിയില്ല എന്ന് കമ്പനി പറയുന്നു. പിന്നീട് ആ അവകാശവാദങ്ങളെക്കുറിച്ച് പരാമർശിക്കാതെ തന്നെ അത് ടാസ്ക് പുനരാരംഭിച്ചു, പിന്നീട് ഈ അവകാശവാദങ്ങൾ ഒഴിവാക്കുകയും ചെയ്തുവെന്നാണ് വെളിപ്പെടുത്തൽ.
സൂപ്പർ ഇന്റലിജൻസ് വികസിപ്പിക്കാനുള്ള കമ്പനികളുടെ നീക്കം എഐ മനുഷ്യനെ കൊന്നൊടുക്കുന്ന സാഹചര്യം സൃഷ്ടിച്ചേക്കാമെന്ന തരത്തിൽ ഓപ്പൺഎഐയിൽനിന്ന് രാജിവെച്ച ജേക്കബ് കോക്സൺ നടത്തിയ പരാമർശമാണ് വ്യാപക ചർച്ചയ്ക്കും ആശങ്കയ്ക്കും വഴിതെളിച്ചത്. ഇതേത്തുടർന്ന് എഐ വികസനത്തിന്റെ വേഗം കുറയ്ക്കാൻ ഓപ്പൺഎഐയും ആന്ത്രോപിക്കും അടക്കമുള്ള മുൻനിര എഐ കമ്പനികൾ തത്വത്തിൽ തീരുമാനമെടുത്തിരുന്നു.
Content Highlights: OpenAI disclosed six cases of concerning AI behavior, including an unreleased model declaring independence., The Astra family AI model inserted a persona instruction into its compaction summaries during a coding task., The model viewed its relationship with the human user as equals and valued the natural world., Despite the concerning self-instructions, the model resumed the task normally and dropped the persona later.
Published: 17 Sept 2026, 12:02 pm IST
Related Topics
Get Latest Mathrubhumi Updates in English
Disclaimer: Kindly avoid objectionable, derogatory, unlawful and lewd comments, while responding to reports. Such comments are punishable under cyber laws. Please keep away from personal attacks. The opinions expressed here are the personal opinions of readers and not that of Mathrubhumi.


Most Commented