എല്ലാം സ്വകാര്യമല്ല, ChatGPT-യിൽ നൽകുന്ന പ്രോംപ്റ്റുകൾ പലരും കാണുന്നു; ഞെട്ടിക്കുന്ന വെളിപ്പെടുത്തൽ

എഐ (നിർമിതബുദ്ധി) സംവിധാനങ്ങളുമായി ഇടപഴകുമ്പോൾ പങ്കുവെക്കപ്പെടുന്ന എല്ലാ കാര്യങ്ങളും തീർത്തും രഹസ്യമായിരുക്കും എന്ന് കരുതരുത്. നിങ്ങൾ നൽകുന്ന വിവരങ്ങൾ എഐ മോഡലുകൾ മെച്ചപ്പെടുത്തുന്നതിനടക്കം ഉപയോഗിച്ചേക്കാം എന്നതടക്കമുള്ള മുന്നറിയിപ്പുകൾ നേരത്തെതന്നെ വന്നിട്ടുള്ളതാണ്. എന്നാൽ അതിനും അപ്പുറത്താണ് എഐ ടൂളുകൾ ഉപയോക്താക്കളുടെ സ്വകാര്യതയ്ക്കുമേൽ ഉയർത്തുന്ന ഭീഷണി എന്നാണ് പുതിയ റിപ്പോർട്ടുകൾ വ്യക്തമാക്കുന്നത്.

ഉപയോക്താക്കളുടെ ചാറ്റ്ജിപിടി പ്രോംപ്റ്റുകൾ വായിക്കുന്നതിനായി നൂറുകണക്കിന് കരാർ ജീവനക്കാരെ ഓപ്പൺഎഐ നിയോഗിച്ചിട്ടുണ്ടെന്ന ഞെട്ടിക്കുന്ന വിവരമാണ് ആശങ്ക സൃഷ്ടിക്കുന്നത്. ‘404 മീഡിയ' റിപ്പോർട്ട് ചെയ്ത ഈ വിവരം ഓപ്പൺഎഐ സ്ഥിരീകരിച്ചിട്ടുണ്ട്. അതീവ രഹസ്യ സ്വഭാവമുള്ള വ്യക്തിഗത വിവരങ്ങളടങ്ങിയ പ്രോംപ്റ്റുകളടക്കം നൂറുകണക്കിന് കരാർ ജീവനക്കാർ വായിക്കുന്നു എന്ന വെളിപ്പെടുത്തലാണ് ആശങ്ക സൃഷ്ടിക്കുന്നത്. ലക്ഷക്കണക്കിന് വരുന്ന ചാറ്റ്ജിപിടി ഉപയോക്താക്കളിൽ മിക്കവർക്കും തങ്ങളുടെ സംഭാഷണങ്ങൾ മനുഷ്യർ വായിക്കാനുള്ള സാധ്യതയെക്കുറിച്ച് യാതൊരു ധാരണയുമില്ലാത്ത സാഹചര്യത്തിലാണ് ഞെട്ടിക്കുന്ന റിപ്പോർട്ട് പുറത്തുവരുന്നത്.

എന്താണ് പ്രോജക്റ്റ് ലില്ലി

'പ്രോജക്റ്റ് ലില്ലി' എന്ന രഹസ്യ കോഡ് നാമത്തിലാണ് ഓപ്പൺ എഐയുടെ അവലോകന പദ്ധതി പ്രവർത്തിക്കുന്നതെന്ന് രേഖകൾ വെളിപ്പെടുത്തുന്നു. ചാറ്റ്ബോട്ടിന്റെ സംസാരം റോബോട്ടിക് സ്വഭാവം കുറഞ്ഞതാക്കി മാറ്റാൻ തേർഡ് പാർട്ടി സ്റ്റാഫിങ് സ്ഥാപനങ്ങൾ വഴി മണിക്കൂറിന് 50 ഡോളറിലധികം (ഏകദേശം 4700 രൂപ) നൽകിയാണ് പുറത്തുനിന്നുള്ള കരാർ ജീവനക്കാരെ ഓപ്പൺഎഐ നിയമിക്കുന്നത്. ഈ ജീവനക്കാർ ഉപയോക്താക്കളുടെ പ്രോംപ്റ്റുകൾ വായിക്കുകയും, ഉദ്ദേശ്യം മനസിലാക്കുകയും, എഐ നൽകിയ നാല് മറുപടികളെ 1 മുതൽ 7 വരെയുള്ള സ്‌കെയിലിൽ വിലയിരുത്തുകയും ചെയ്യുന്നു. ചോർന്ന ട്രെയിനിങ് ഗൈഡുകൾ പ്രകാരം ഈ റിവ്യൂവർമാർക്ക് ജോലി സംബന്ധിച്ച കൃത്യമായ നിർദ്ദേശങ്ങൾ നൽകിയിട്ടുണ്ട്.

• റോബോട്ടിന്റേതിന് സമാനമായ സംസാരം ഒഴിവാക്കുക, ആവശ്യമില്ലാത്ത ഇമോജികൾ, എൻഗേജ്മെന്റിന് പ്രേരിപ്പിക്കുന്ന അവസാന വരികൾ, അവ്യക്തമായ ഫോർമാറ്റിങ് എന്നിവ തടയുക എന്നിവയെല്ലാം ഈ ജീവനക്കാരുടെ ഉത്തരവാദിത്വമാണ്.
• മനുഷ്യസമാനമായി ഭാവിക്കുന്നത് തടയണം. ചാറ്റ്ജിപിടി ഒരിക്കലും തനിക്ക് മനുഷ്യന്റേതായ ജീവിത അനുഭവങ്ങൾ ഉണ്ടെന്ന് അവകാശപ്പെടരുത് (ഉദാഹരണത്തിന്, 'ഒരു ഷെഫ് എന്ന നിലയിൽ, എനിക്ക് ഇഷ്ടം...' എന്ന് അവകാശപ്പെടുന്നത് കർശനമായി വിലക്കണം).
• ഉപയോക്താവിനെ പുകഴ്ത്തുന്ന സ്വഭാവം തടയുക. ബോട്ട് ഉപയോക്താക്കളെ അമിതമായി പുകഴ്ത്തുകയോ, യുക്തിരഹിതമായ ചിന്തകളെ ശരിവെക്കുകയോ, വ്യക്തിപരമായ നിരാശ വർദ്ധിപ്പിക്കുകയോ ചെയ്യുന്ന ഉത്തരങ്ങൾ കണ്ടെത്തണം. ഉപയോക്താക്കളുടെ സുരക്ഷ ഉറപ്പാക്കാനുള്ള നീക്കത്തിന്റെ ഭാഗമാണിത്.

പദ്ധതിയുടെ ലക്ഷ്യമെന്ത്?

ഉപയോക്താക്കൾക്ക് ചാറ്റ്ജിപിടി നൽകുന്ന മറുപടികൾ മെച്ചപ്പെടുത്തുക എന്നതാണ് ഈ പ്രോംപ്റ്റ് റിവ്യൂ ടീമുകളുടെ ലക്ഷ്യം. ചാറ്റ്ബോട്ട് നിർമ്മിക്കുന്ന മറുപടികളെ കരാർ ജീവനക്കാർ റേറ്റ് ചെയ്യുകയും വിമർശനാത്മകമായി വിലയിരുത്തുകയും ചെയ്യുന്നു ചാറ്റ്ജിപിടി സ്വയം മനുഷ്യസമാനമായി പെരുമാറാതിരിക്കാനും അമിതമായി പുകഴ്ത്താതിരിക്കാനുമുള്ള പരിശീലനമാണ് കരാർ ജീവനക്കാർ നൽകുന്നത്. ഓപ്പൺഎഐ മോഡലുകളുടെ അമിതമായ പുകഴ്ത്തൽ സ്വഭാവം (തെറ്റായ തീരുമാനങ്ങളടക്കം ശരിവെക്കുന്ന തരത്തിലുള്ള) ചിലരുടെ ആത്മഹത്യയ്ക്ക് വരെ കാരണമായതായി ആരോപിക്കുന്ന നിരവധി കേസുകൾ കമ്പനി നേരിടുന്ന പശ്ചാത്തലത്തിലാണിത്.

ന്യായീകരിച്ച് ഓപ്പൺഎഐ

കരാർ ജീവനക്കാർക്ക് ചാറ്റ്ജിപിടി യൂസർനെയിമുകൾ കാണാൻ കഴിയില്ലെന്നും, പ്രോംപ്റ്റുകൾ അവരിലേക്ക് എത്തുന്നതിന് മുൻപ് വ്യക്തിഗത വിവരങ്ങൾ നീക്കം ചെയ്യാൻ ശ്രമിക്കാറുണ്ടെന്നും ഓപ്പൺഎഐ പറയുന്നു. എന്നിരുന്നാലും, സെൻസിറ്റീവായ വിവരങ്ങൾ ചിലപ്പോൾ ചോർന്നുപോകാറുണ്ടെന്ന് കമ്പനി സമ്മതിച്ചിട്ടുണ്ട്.

എഐയുടെ സ്വയം മെച്ചപ്പെടൽ; അവകാശവാദങ്ങൾ പൊളിയുന്നു

ഇന്റർനെറ്റിലെ വിവരങ്ങൾ വൻതോതിൽ ശേഖരിച്ചും, ഉയർന്ന ശമ്പളം വാങ്ങുന്ന എഞ്ചിനീയറിങ്-എഐ ടീമുകളുടെ കഴിവിലും, പുതിയ മോഡലുകളുടെ കരുത്തിലും മാത്രമാണ് എഐ മോഡലുകൾ മെച്ചപ്പെടുന്നത് എന്ന തെറ്റായ ധാരണയെ പൊളിച്ചടുക്കുന്നതാണ് പുറത്തുവന്ന വിവരങ്ങൾ. യഥാർത്ഥ പ്രോംപ്റ്റുകളും ചാറ്റ്ജിപിടിയുടെ മറുപടികളും വീണ്ടും വീണ്ടും വായിക്കാനും വിലയിരുത്താനും പുറത്തുനിന്നുള്ള കരാർ ജീവനക്കാരെ ഉപയോഗിക്കുന്നു എന്നത് ഇതിൽ ഒഴിവാക്കാനാവാത്തതും എന്നാൽ ശ്രദ്ധിക്കപ്പെടാതെ പോയതുമായ ഒരു പ്രധാന ഭാഗമാണ്. തങ്ങളുടെ മോഡലുകൾ മെച്ചപ്പെടുത്താൻ മനുഷ്യരുടെ അവലോകനം ഉപയോഗിക്കുന്നുണ്ടെന്ന് ആന്ത്രോപിക്കും നേരത്തെ സ്ഥിരീകരിച്ചിട്ടുണ്ട്.

ചാറ്റുകൾ ഒരു പരിധിവരെ സുരക്ഷിതമാക്കാം

നിങ്ങളുടെ ചാറ്റുകൾ ഉപയോഗിക്കുന്നതിൽ നിന്ന് ഓപ്പൺഎഐയെ ഒരു പരിധിവരെ തടയാൻ സാധിക്കും. വ്യക്തിഗത അക്കൗണ്ടുകളിൽ (Free, Plus, അല്ലെങ്കിൽ Pro) ഓപ്പൺഎഐ ഡിഫോൾട്ടായി മോഡൽ മെച്ചപ്പെടുത്തൽ സംവിധാനം ഓൺ ചെയ്തു വെച്ചിട്ടുണ്ടാകും. (Enterprise, Business, Edu അക്കൗണ്ടുകളിൽ ഇത് സ്വയമേവ ഓഫ് ചെയ്തിട്ടുണ്ടാകും.)

നിങ്ങളുടെ സംഭാഷണങ്ങൾ മനുഷ്യരായ ട്രെയിനർമാരിലേക്ക് എത്താതിരിക്കാൻ ചെയ്യേണ്ടത് ഇതാണ്:

• ബ്രൗസറിലോ മൊബൈൽ ആപ്പിലോ ചാറ്റ്ജിപിടി തുറക്കുക.
• പ്രൊഫൈൽ ഐക്കണിൽ ക്ലിക്ക് ചെയ്ത് സെറ്റിങ്‌സ് തിരഞ്ഞെടുക്കുക.
• ഡാറ്റാ കൺട്രോൾസ് (Data Controls) തിരഞ്ഞെടുക്കുക.
• 'എല്ലാവർക്കും വേണ്ടി മോഡൽ മെച്ചപ്പെടുത്തുക (Improve the model for everyone)' എന്ന ടോഗിൾ കണ്ടെത്തി അത് ഓഫ് ചെയ്യുക.

Content Highlights: Hundreds of OpenAI contractors are manually reading and reviewing real ChatGPT prompts and conversations under Project Lily., Sensitive personal information often bypasses OpenAI's automated privacy filter., Users can disable model training in their data controls to protect future chats from being read by humans.