നിർമിതബുദ്ധി ഉപയോഗിച്ച് നഗ്ന ചിത്രങ്ങള്; ആപ്പുകൾക്കെതിരെ നടപടിയെടുത്ത് ആപ്പിള്
ആര്ട്ടിഫിഷ്യല് ഇന്റലിജന്സിന്റെ സഹായത്തോടെ വ്യക്തികളുടെ നഗ്നചിത്രങ്ങള് നിര്മിക്കാന് സാധിച്ചിരുന്ന മൂന്ന് ആപ്പുകള് ആപ്പ്സ്റ്റോറില് നിന്ന് നീക്കം ചെയ്ത് ആപ്പിള്. ഈ ആപ്പുകളുടെ പരസ്യങ്ങള് ഇന്സ്റ്റാഗ്രാമില് വന്നിരുന്നുവെന്ന് 404 മീഡിയ റിപ്പോര്ട്ട് ചെയ്യുന്നു. തങ്ങളുടെ റിപ്പോര്ട്ട് വന്നതിന് ശേഷമാണ് ആപ്പിള് ഈ ആപ്പുകള്ക്കെതിരെ നടപടി സ്വീകരിച്ചതെന്നും ബാഹ്യ സഹായമില്ലാതെ ആപ്പ് സ്റ്റോര് നയങ്ങള് ലംഘിക്കുന്ന ആപ്പുകള് കണ്ടെത്താന് ആപ്പിളിന് കഴിയില്ലെന്നാണ് ഇത് വ്യക്തമാക്കുന്നതെന്നും റിപ്പോര്ട്ടില് പറയുന്നു.
മെറ്റയുടെ ആഡ് ലൈബ്രറിയില് നിന്ന് ഇത്തരം അഞ്ച് പരസ്യങ്ങള് കണ്ടെത്തിയെന്ന് 404 മീഡിയ പറയുന്നു. മെറ്റ ആർക്കൈവ് ചെയ്ത പരസ്യങ്ങളെല്ലാം മെറ്റ ആഡ് ലൈബ്രറിയിലാണ് ഉണ്ടാവുക. ഇതില് രണ്ടെണ്ണം വെബ്ബ് അധിഷ്ടിത സേവനങ്ങളുടേതായിരുന്നു. മൂന്നെണ്ണം ആപ്പിള് ആപ്പ്സ്റ്റോറിലെ ആപ്പുകളിലേക്കുള്ളവ ആയിരുന്നു. അശ്ലീല ചിത്രത്തിന് മേല് എഐയുടടെ സഹായത്തോടെ മറ്റൊരാളുടെ മുഖം ചേര്ത്തുവെക്കാനും വ്യക്തികളുടെ സാധാരണ ചിത്രത്തില് വസ്ത്രങ്ങള് മാറ്റി നഗ്നചിത്രങ്ങള് ചേര്ക്കാനുമുള്ള സൗകര്യങ്ങളാണ് ഈ ആപ്പുകള് വാഗ്ദാനം ചെയ്തിരുന്നത്.
പരസ്യങ്ങള് മെറ്റ ഓണ്ലൈനില് നിന്ന് നീക്കം ചെയ്തവയാണ്. എന്നാല് ഈ ആപ്പുകളുമായി ബന്ധപ്പെട്ട റിപ്പോര്ട്ട് വന്നതിന് ശേഷമാണ് ആപ്പിള് അവ നീക്കം ചെയ്തത്. മുമ്പും സമാനമായരീതിയില് ആപ്പ് സ്റ്റോറില് ഡീപ്പ് ഫേക്ക് ആപ്പുകള് പ്രചരിച്ചിട്ടുണ്ട്. 2022 ല് ഇത്തരം ആപ്പുകള് കണ്ടെത്തിയെങ്കിലും അത് നീക്കം ചെയ്യുന്നതിന് പകരം അവ പോണ് സൈറ്റുകലില് പരസ്യം ചെയ്യുന്നത് നിര്ത്തലാക്കാന് നിര്ദേശിക്കുകയാണ് ആപ്പ് സ്റ്റോറും, ഗൂഗിള് പ്ലേ സ്റ്റോറും ചെയ്തത്.
ആപ്പുകളായും ഓണ്ലൈന് വെബ്സൈറ്റുകളായും ഡീപ്പ് ഫേക്ക് ഉള്ളടക്കങ്ങള് നിര്മിക്കുന്ന സേവനങ്ങളും ഡീപ്പ് ഫേക്ക് വീഡിയോകള് പങ്കുവെക്കുന്ന പോണ് സൈറ്റുകളും വ്യാപകമായിക്കൊണ്ടിരിക്കുന്നത് എഐയുടെ കഴിവുകള് സംബന്ധിച്ച ആശങ്ക വര്ധിപ്പിക്കുകയാണ്. എഐയുടെ ഇത്തരം ദുരുപയോഗം തടയാനുള്ള ശ്രമങ്ങള് ഇനിയും ഫലം കണ്ടിട്ടില്ല.
Content Highlights: apple removes deepfake apps used to create non-consensual nude images