Representational Image | Image by Freepik
ഈ ലോകത്ത് എന്തിനെയാണ് വിശ്വസിക്കുക. കണ്ണുകൊണ്ട് കാണുന്നതിനെയെല്ലാം വിശ്വസിക്കാമെന്നാണ് പറയുന്നതെങ്കില്‍ ഇനി എത്രനാള്‍ അതിന് സാധിക്കും? കാണുന്നതും കേള്‍ക്കുന്നതും വിശ്വസിക്കാനാവാത്ത കാലം. ഡീപ്പ് ഫേക്കുകള്‍ നമുക്കു ചുറ്റും വ്യാജ ഉള്ളടക്കങ്ങളുടെ മായാലോകം തീര്‍ക്കുന്ന കാലം. അത്തരമൊരു കാലം ഇങ്ങെത്തിക്കഴിഞ്ഞു എന്ന മുന്നറിയിപ്പ് നല്‍കുകയാണ് ചാറ്റ് ജിപിടി, മിഡ്‌ജേണി, ഡാല്‍ഇ ഉള്‍പ്പടെയുള്ള ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് അധിഷ്ഠിതമായ ഉല്പന്നങ്ങള്‍.
ദൈനംദിനമെന്നോണം വ്യാജവാര്‍ത്തകളോട് പടവെട്ടിക്കൊണ്ടിരിക്കുകയാണ് ലോകം. വാര്‍ത്തകള്‍, ചിത്രങ്ങള്‍, വീഡിയോകള്‍ ഉള്‍പ്പടെ നമ്മളെയെല്ലാം തെറ്റിദ്ധരിപ്പിക്കുന്ന എന്തെല്ലാം ഉള്ളടക്കങ്ങളാണ് വാട്‌സാപ്പിലൂടെയും ഫെയ്സ്ബുക്ക് ഉള്‍പ്പടെയുള്ള സോഷ്യല്‍ മീഡിയാ പ്ലാറ്റ്‌ഫോമുകളിലൂടെയും എത്തിക്കൊണ്ടിരിക്കുന്നത്. ഈ പ്രശ്‌നങ്ങള്‍ക്ക് ആക്കം കൂട്ടുകയാണ് എഐ അധിഷ്ടിതമായ ഡീപ്പ് ഫേക്ക് ഉള്ളടക്കങ്ങള്‍.
എന്താണ് ഡീപ്പ് ഫേക്കുകള്‍
ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ പിന്തുണയില്‍ കൃത്രിമമായി നിര്‍മിക്കപ്പെട്ട യഥാര്‍ഥമെന്ന് തോന്നുന്ന ചിത്രങ്ങള്‍, വീഡിയോകള്‍, ശബ്ദം ഉള്‍പ്പടെയുള്ള ഉള്ളടക്കങ്ങളെയാണ് ഡീപ്പ് ഫേക്കുകള്‍ എന്ന് വിളിക്കുന്നത്. എഐയെ പ്രതിനിധീകരിക്കുന്ന ഡീപ്പ് ലേണിങ് എന്ന വാക്കും വ്യാജം എന്നര്‍ത്ഥം വരുന്ന ഫേക്ക് (Fake) എന്ന വാക്കും സംയോജിപ്പിച്ചതാണ് ഡീപ്പ് ഫേക്ക് എന്ന പേര്.
ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ സാന്നിധ്യമാണ് ഡീപ്പ് ഫേക്ക് ഉള്ളടക്കങ്ങളെ കുറിച്ചുള്ള ഭീതിയേറ്റുന്നത്. വേഗത്തില്‍ വ്യാജ ഉള്ളക്കങ്ങള്‍ നിര്‍മിക്കാനും യഥാര്‍ത്ഥമാണോ അല്ലയോ എന്ന് വേര്‍തിരിച്ചറിയാനാകാത്തവിധം അവയെ മികവുള്ളതാക്കാനും ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിന്‍സിന് സാധിക്കുമെന്നത് തന്നെ കാരണം. മെച്ചപ്പെട്ട കംപ്യൂട്ടിങ് ശേഷിയും, മെഷീന്‍ ലേണിങ് അല്‍ഗൊരിതങ്ങളും, അതിഭീമമായ അളവില്‍ അതിവേഗം ഡാറ്റ കൈമാറാനുള്ള സാങ്കേതിക സൗകര്യവുമെല്ലാം ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന് ശേഷി വര്‍ധിപ്പിക്കുന്നു.
.jpg?$p=8a7b7b1&&q=0.8)
ഡൊണാള്‍ഡ് ട്രംപിനെ ചീത്തവിളിക്കുന്ന ബരാക്ക് ഒബാമ, ആളുകളില്‍ നിന്ന് മോഷ്ടിച്ച കോടിക്കണക്കിന് ഡാറ്റയുടെ നിയന്ത്രണം കൈവശം വെക്കുന്നതിനെ കുറിച്ച് സംസാരിക്കുന്ന മെറ്റ മേധാവി മാര്‍ക്ക് സക്കര്‍ബര്‍ഗ്, യുക്രൈന്‍ സൈന്യത്തോട് റഷ്യയ്ക്കുമുന്നില്‍ കീഴടങ്ങാന്‍ ആവശ്യപ്പെടുന്ന യുക്രൈന്‍ പ്രസിഡന്റ് വ്ലോദിമിര് സെലന്‍സ്‌കി, ഹോളിവുഡ് താരം മോര്‍ഗന്‍ ഫ്രീമാന്‍, ടിക് ടോക്ക് വീഡിയോകള്‍ എടുക്കുന്ന ടോം ക്രൂയിസ്, ടെസ് ല മേധാവി ഇലോണ്‍ മസ്‌ക്, റഷ്യന്‍ പ്രസിഡന്റ് വ്‌ളാഡിമിര്‍ പുതിന്‍ തുടങ്ങി നിരവധി പ്രമുഖരുടെ ഡീപ്പ് ഫേക്ക് വീഡിയോകളും ചിത്രങ്ങളും ഇന്റര്‍നെറ്റില്‍ ലഭ്യമാണ്.
അതുപോലെ, ശബ്ദവും ഡീപ്പ് ഫേക്ക് ചെയ്യാനാകും. കംപ്യൂട്ടര്‍ സഹായത്തോടെ നിര്‍മിക്കുന്ന ശബ്ദം പഴയപോലെ അല്‍പം യാന്ത്രികത നിറഞ്ഞവയല്ല. നരേന്ദ്രമോദിയും രാഹുല്‍ഗാന്ധിയുമെല്ലാം എങ്ങനെയാണോ സംസാരിക്കുന്നത് അതേ ശബ്ദത്തില്‍ അതേ ശൈലിയില്‍ കൃത്രിമമായി അവരുടെ സംഭാഷണങ്ങള്‍ സൃഷ്ടിച്ചെടുക്കാന്‍ ഇന്ന് സാധിക്കും. ഡീപ്പ് ഫേക്ക് വീഡിയോ എന്നാല്‍ കൃത്രിമമായി നിര്‍മിക്കപ്പെട്ട ഈ ശബ്ദവും കൂടി ഉള്‍പ്പെടുന്നതാണ്.
അല്‍പ്പം ചരിത്രം
വീഡിയോകളില്‍ കൃത്രിമ രംഗങ്ങള്‍ ഉള്‍പ്പെടുത്താനുള്ള ശ്രമങ്ങള്‍ മുമ്പും ഉണ്ടായിട്ടുണ്ട്. സിനിമകളില്‍ ഡ്യൂപ്പുകളെ ഉപയോഗിച്ചുള്ള സംഘട്ടനരംഗങ്ങള്‍ പോലും ഒരു തരത്തില്‍ ഇത്തരം കൃത്രിമം കാണിക്കല്‍ തന്നെയാണ്.
ഡീപ്പ് ഫേക്കുകന്റെ കഥ തുടങ്ങുന്നത് 1997-ല്‍ ക്രിസ്റ്റഫ് ബ്രെഗ്ലര്‍, മിഷേല്‍ കോവല്‍, മല്‍കോം സ്ലാനി എന്നിവര്‍ ചേര്‍ന്ന് നിര്‍മിച്ചെടുത്ത 'വീഡിയോ റീ റൈറ്റ് പ്രോഗ്രാമിന്റെ' വരവോടുകൂടിയാണ്. വീഡിയോ ദൃശ്യത്തിലുള്ള ഒരാളുടെ ചുണ്ടുകളുടെ ചലനത്തില്‍ മാറ്റങ്ങള്‍ വരുത്തി അയാള്‍ മറ്റൊരു കാര്യം പറയുന്നതാക്കി മാറ്റാന്‍ സാധിക്കുന്ന സംവിധാനമായിരുന്നു ഇത്. വീഡിയോ ദൃശ്യത്തിലുള്ള ഒരാളുടെ മുഖഭാവങ്ങളില്‍ പൂര്‍ണമായി മാറ്റങ്ങള്‍ വരുത്താന്‍ സാധിക്കും വിധം നിര്‍മിക്കപ്പെട്ട ആദ്യ സംവിധാനമായിരുന്നു ഇത്.
പിന്നീട് 2001 ല്‍ ആളുകളുടെ മുഖ ചലനങ്ങള്‍ തിരിച്ചറിയാന്‍ കഴിവുള്ള 'ആക്റ്റീവ് അപ്പിയറന്‍സ് മോഡല്‍' (എഎഎം) എന്നൊരു കമ്പ്യൂട്ടര്‍ വിഷന്‍ അല്‍ഗൊരിതം വികസിപ്പിക്കപ്പെട്ടു.
2014-ല്‍ ഇയാന്‍ ഗുഡ്‌ഫെലോയും അദ്ദേഹത്തിന്റെ സഹപ്രവര്‍ത്തകരും ചേര്‍ന്ന് വികസിപ്പിച്ചെടുത്ത 'ജനറേറ്റീവ് അഡ്വേഴ്‌സേറിയല്‍ നെറ്റ്വര്‍ക്ക്' (GAN) ആണ് ഇന്നത്തെ ഡീപ്പ് ഫെയ്ക്കുകള്‍ക്ക് ആധാരം. ഈ സംവിധാനത്തെ പരിശീലിപ്പിക്കാനായി ഉപയോഗിച്ച ചിത്രങ്ങളില്‍ നിന്ന് മനുഷ്യന്റെ സാധാരണ പരിശോധനയില്‍ തിരിച്ചറിയാനാകാത്തവിധമുള്ള റിയലിസ്റ്റിക്ക് സ്വഭാവങ്ങളുള്ള പുതിയ ചിത്രങ്ങള്‍ നിര്‍മിച്ചെടുക്കാന്‍ ഈ സംവിധാനത്തിന് സാധിക്കും.
ഡീപ്പ് ഫേക്ക് നിര്‍മിക്കുന്നത്
ഒരാളുടെ ഡീപ്പ് ഫേക്ക് ചിത്രം നിര്‍മിക്കണമെങ്കില്‍ ആദ്യം അയാളുടെ വിവിധങ്ങളായ ചിത്രങ്ങള്‍ ശേഖരിക്കണം. ഇങ്ങനെ ശേഖരിക്കുന്ന ചിത്രങ്ങളിലെ മുഖത്തെ കംപ്യൂട്ടര്‍ വിഷന്‍ സംവിധാനങ്ങള്‍ ഉപയോഗിച്ച് പഠിക്കും. ശേഷം ആ മുഖചിത്രങ്ങള്‍ ഉപയോഗിച്ച് ജനറേറ്റീവ് അഡ്വേഴ്‌സേറിയല്‍ നെറ്റ്വർക്കിനെ (GAN) പരിശീലിപ്പിക്കും. ഇതോടെ പരിശീലിപ്പിച്ച ചിത്രങ്ങള്‍ ഉപയോഗിച്ച് പുതിയൊരു ചിത്രം നിര്‍മിക്കാനും ഒരു വീഡിയോയിലെ മുഖം മാറ്റം മറ്റൊരു മുഖം വെക്കാനും കഴിവുള്ളൊരു എഐ സൃഷ്ടിക്കപ്പെടും. ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിലൂടെ ചിത്രങ്ങള്‍ നിര്‍മിക്കുന്നതിന്റെ സാങ്കേതികത വളരെ ലളിതമായി പറയുകയാണ് ചെയ്തത്. ഇതൊന്നും അറിയാതെ തന്നെ ഈ ജോലികള്‍ എളുപ്പമാക്കുന്ന ഓണ്‍ലൈന്‍ വെബ്‌സൈറ്റുകളും ക്ലൗഡ് അധിഷ്ഠിത ഓണ്‍ലൈന്‍ ആപ്ലിക്കേഷനുകളുമെല്ലാം ഇതിനകം നിലവില്‍ വന്നുകഴിഞ്ഞു.
ഡീപ്പ് ഫേക്ക് ഉപയോഗം
ആളുകളെ വലിയ രീതിയില്‍ ഡീപ്പ് ഫേക്കുകളിലൂടെ തെറ്റിദ്ധരിപ്പിക്കാനാവും. ഒറ്റനോട്ടത്തില്‍ തിരിച്ചറിയാനാകാത്ത വിധം പഴുതുകളില്ലാത്ത വ്യാജ വീഡിയോകളും ചിത്രങ്ങളുമാണ് സൃഷ്ടിക്കപ്പെടുന്നത്. എന്നാല്‍ ഈ സംവിധാനം അതിന്റെ ശരിയായ രീതിയിലും ഉപയോഗപ്പെടുത്താം. അക്കാദമിക രംഗത്തും ഗവേഷണരംഗത്തും സിനിമാ നിര്‍മാണത്തിനായുള്ള വിഷ്വല്‍ ഇഫക്ട് സ്റ്റുഡിയോകളിലുമെല്ലാം ഡീപ്പ് ഫേക്ക് സംവിധാനങ്ങള്‍ പ്രയോജനപ്പെടുത്താനാവും.
നടീനടന്മാരുടെ വിവിധ പ്രായത്തിലുള്ള കഥാപാത്രങ്ങളെ സൃഷ്ടിച്ചെടുക്കാനും ഡ്യൂപ്പുകള്‍ക്ക് നടന്മാരുടെ മുഖം നല്‍കാനും ഇത് ഉപയോഗിക്കുന്നുണ്ട്. വിദേശ ഭാഷകളില്‍ നിന്നുള്ള സിനിമകള്‍ ഡബ്ബ് ചെയ്‌തെടുക്കുമ്പോള്‍ ചുണ്ടുകളുടെ ചലനം ഭാഷയ്ക്ക് അനുസരിച്ച് മാറ്റാന്‍ ഡീപ്പ് ഫേക്ക് സാങ്കേതിക വിദ്യകള്‍ പ്രയോജനപ്പെടുത്തുന്നുണ്ട്. മരണപ്പെട്ട നടീനടന്മാരെ വരെ സിനിമയില്‍ അവതരിപ്പിക്കുന്നതിനും ഇതിലൂടെ സാധിക്കും. ഫാസ്റ്റ് ആന്റ് ഫ്യൂരിയസ് 7 എന്ന സിനിമയില്‍ അന്തരിച്ച നടന്‍ പോള്‍ വാക്കറിനെ ഒരു രംഗത്തില്‍ ഉള്‍പ്പെടുത്തിയത് അതിനൊരു ഉദാഹരണമാണ്.
പോണോഗ്രഫി, രാഷ്ട്രീയപ്രചാരണം, റിവഞ്ച് പോണ്‍, തീവ്രവാദം, സാമ്പത്തികത്തട്ടിപ്പ് തുടങ്ങിയമേഖലകളില്‍ ഡീപ്പ് ഫേക്ക് വലിയ രീതിയില്‍ ദുരുപയോഗം ചെയ്യപ്പെടുന്നുണ്ട്. പോണോഗ്രഫിയ്ക്ക് വേണ്ടിയാണ് കൂടുതലും. ഒരാള്‍ക്ക് ഇഷ്ടപ്പെട്ട ആരുടെയും ലൈംഗിക രംഗങ്ങള്‍ ഡീപ്പ് ഫേക്കായി നിര്‍മിക്കാമെന്ന് വന്നാല്‍ എന്തായിരിക്കും അവസ്ഥ ! സെലിബ്രിട്ടികളായ സ്ത്രീകളാണ് ഇതില്‍ ഇരകളാവുന്നതില്‍ കൂടുതലും. ഡീപ്പ് ഫേക്ക് വീഡിയോകള്‍ സ്ത്രീകള്‍ക്കെതിരെ വലിയൊരു ആയുധമായി മാറുമെന്നാണ് വിദഗ്ദര്‍ നല്‍കുന്ന മുന്നറിയിപ്പ്.
ഡീപ്പ് ഫേക്ക് വീഡിയോകളുടെ എണ്ണം അതിവേഗം വര്‍ധിച്ചുകൊണ്ടിരിക്കുകയാണെന്നാണ് ചില കണക്കുകള്‍ വ്യക്തമാക്കുന്നത്. 2019 തുടക്കത്തില്‍ 7964 ഡീപ്പ് ഫേക്ക് വീഡിയോകളാണ് ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സ് സ്ഥാപനമായ ഡീപ്പ് ട്രേസ് കണ്ടെത്തിയത്. എന്നാല്‍ ഒമ്പത് മാസങ്ങള്‍ക്കിപ്പുറം അത് 15000ന് അടുത്തെത്തിയെന്ന് ഡീപ്പ് ട്രേസ് പറയുന്നു. ഇതില്‍ ഭൂരിഭാഗവും പോണ്‍താരങ്ങളുടെ മുഖത്ത് സെലിബ്രിട്ടി യുവതികളുടെ മുഖം ചേര്‍ത്ത് നിര്‍മിച്ചവയായിരുന്നു. ഇന്റര്‍നെറ്റില്‍ ലഭ്യമായ സൗജന്യ പോണോഗ്രഫി സൈറ്റുകളില്‍ ലോകത്തെ വിവിധ ഭാഷാ സിനിമകളില്‍ നിന്നുള്ള അഭിനേത്രികളുടെ അനേകായിരം നഗ്‌ന ചിത്രങ്ങളും വീഡിയോകളും ഇതിനകം അപ്ലോഡ് ചെയ്യപ്പെട്ടിട്ടുണ്ട്. ശത്രുതയുള്ളവരോട് പകപോക്കുന്നതിനായി റിവഞ്ച് പോണോഗ്രഫി (Revenge Pornography) എന്ന നിലയിലും ഈ സംവിധാനങ്ങള്‍ ദുരുപയോഗം ചെയ്തേക്കാം.
എഐ പോണോഗ്രഫി
പോണോഗ്രഫിയില്‍ ഒരു പ്രത്യേക വിഭാഗമായും 'എഐ പോണോഗ്രഫി' വളര്‍ന്നുവരികയാണ്. അതായത് ആര്‍ട്ടിഫിഷ്യല്‍ ഇന്റലിജന്‍സിന്റെ സഹായത്തോടെ നിര്‍മിക്കപ്പെടുന്ന പോണ്‍ വീഡിയോകളും ചിത്രങ്ങളും അടങ്ങുന്ന ഒരു വിഭാഗം.
നിര്‍ദേശാനുസരണം ചിത്രങ്ങള്‍ സൃഷ്ടിച്ചെടുക്കുന്ന മിഡ്ജേണിയും, ഓപ്പണ്‍ എഐയുടെ ഡാല്‍ ഇ തുടങ്ങിയ സംവിധാനങ്ങളുടെ പ്രവര്‍ത്തനം 2022 ല്‍ അവതരിപ്പിക്കപ്പെട്ട ഡീപ്പ് ലേണിങ്, ടെക്സ്റ്റ് റ്റു ഇമേജ് മോഡലായ 'സ്റ്റേബിള്‍ ഡിഫ്യൂഷന്‍' (Stable Diffusion) എന്ന ജനറേറ്റീവ് ന്യൂറല്‍ നെറ്റ്വര്‍ക്ക് അടിസ്ഥാനമാക്കിയാണ്.
ഇതേ സ്റ്റേബിള്‍ ഡിഫ്യൂഷ്യന്‍ പ്രയോജനപ്പെടുത്തി ശൂന്യതയില്‍ നിന്നും നഗ്‌നരായ മനുഷ്യ ചിത്രങ്ങള്‍ സൃഷ്ടിച്ചെടുക്കാന്‍ സാധിക്കുന്ന മറ്റ് സംവിധാനങ്ങള്‍ നിലവിലുണ്ട്.
രാഷ്ട്രീയ ദുരുപയോഗം
രാഷ്ട്രീയ നേട്ടങ്ങള്‍ക്കായി എഐ നിര്‍മിതമായ ഉള്ളടക്കങ്ങള്‍ ഉപയോഗിക്കുന്നതുമായി ബന്ധപ്പെട്ട് ഗവേഷകര്‍രും മാധ്യമപ്രവര്‍ത്തകരും വിവിധ രാജ്യങ്ങളിലെ ഭരണ സിരാകേന്ദ്രങ്ങളില്‍ പ്രവര്‍ത്തിക്കുന്നവരുമായ ആളുകള്‍ ഇതിനകം ആശങ്ക ഉയര്‍ത്തിയിട്ടുണ്ട്. വിവിധ വിഷയങ്ങളില്‍ എതിരാളികള്‍ക്കെതിരേ ജനവികാരം ഇളക്കിവിടാനും ആളുകളെ തെറ്റിദ്ധരിപ്പിക്കുന്ന ചിത്രങ്ങളും വീഡിയോകളും പ്രചരിപ്പിക്കാനുമെല്ലാം എഐ സാങ്കേതികവിദ്യകളെ പ്രയോജനപ്പെടുത്തുകയാണ്.
റഷ്യയും ചൈനയുമെല്ലാം ഇതിനകം ഡീപ്പ് ഫേക്ക് ഉള്ളടക്കങ്ങള്‍ എതിരാളികള്‍ക്കെതിരേ പ്രയോജനപ്പെടുത്തുന്നുണ്ടെന്നാണ് യുഎസ് പറയുന്നത്. യുക്രൈന്‍ പ്രസിഡന്റ് വ്ലോദിമിര് സെലന്‍സ്‌കി തന്റെ സൈനികരോട് റഷ്യയ്ക്ക് മുന്നില്‍ കീഴടങ്ങാന്‍ ആവശ്യപ്പെടുന്ന വീഡിയോ അതിനൊരു ഉദാഹരണമാണ്.
| Phototwitter@blovereviews
അടുത്തിടെ യുക്രൈനിലേക്ക് അമേരിക്കന്‍ സൈനികരെ അയക്കുന്നതുമായി ബന്ധപ്പെട്ട് പ്രസിഡന്റ് ജോ ബൈഡന്‍ പ്രഖ്യാപനം നടത്തുന്നതിന്റെ ഒരു ഡീപ്പ് ഫേക്ക് വീഡിയോയും പ്രചരിപ്പിക്കപ്പെട്ടു. വലതുപക്ഷ വക്താവായ ജാക്ക് പോസോബെയ്ക് എന്നയാളാണ് ഈ വീഡിയോ നിര്‍മിച്ച് പ്രചരിപ്പിച്ചത്.
തിരഞ്ഞെടുപ്പുകളില്‍ കൃത്രിമം വരുത്തുക, ഭരണകൂട സ്ഥാപനങ്ങളില്‍ വിശ്വാസം നഷ്ടപ്പെടുത്തുക, മാധ്യമങ്ങളെ ദുര്‍ബലപ്പെടുത്തുക, സമൂഹിക വിഭാഗങ്ങളുടെ ഐക്യം തകര്‍ത്ത് അവരെ വിഭജിക്കുക, പൊതു സുരക്ഷയെ തരംതാഴ്ത്തുക, പ്രമുഖ വ്യക്തിത്വങ്ങളുടെയും സര്‍ക്കാര്‍ ഉദ്യോഗസ്ഥരുടേയും സ്ഥാനാര്‍ഥികളുടേയുമെല്ലാം സല്‍പ്പേരിന് കളങ്കം വരുത്തുക തുടങ്ങി ഒരു രാജ്യത്തിന്റെ ജനാധിപത്യ സംവിധാനത്തെയും സാമൂഹികക്രമത്തേയും അടിമുടി തകര്‍ത്തുകളയാന്‍ ഡീപ്പ് ഫേക്കുകള്‍ക്ക് സാധിക്കും.
ഡീപ്പ് ഫേക്കുകള്‍ യുഎസിന്റെ വിദേശ ബന്ധങ്ങളേയും രാജ്യസുരക്ഷയെയും വരെ ബാധിച്ചേക്കുമെന്ന് 2019 ല്‍ തന്നെ വിദഗ്ദര്‍ മുന്നറിയിപ്പ് നല്‍കിയിരുന്നു. ഈ മുന്നറിയിപ്പ് പക്ഷെ വെറുതെ ആയില്ല. യുഎസ് ഭരണകൂടത്തിനെതിരെ ജനവികാരം ഇളക്കിവിടാന്‍ ചൈന ഡീപ്പ് ഫേക്ക് വീഡിയോകള്‍ ഉപയോഗിച്ചതിന്റെ തെളിവുകള്‍ അമേരിക്കന്‍ സൈബര്‍ ഗവേഷണ സ്ഥാപനമായ ഗ്രാഫിക അടുത്തിടെ പുറത്തുവിടുകയുണ്ടായി. ഒരു വാര്‍ത്താ ചാനലിന്റെ വീഡിയോ ദൃശ്യങ്ങള്‍ എങ്ങനെ ആയിരിക്കുമോ അതുപോലെയുള്ള ദൃശ്യങ്ങള്‍ ചൈന ഡീപ്പ് ഫേക്ക് സംവിധാനങ്ങളുടെ സഹായത്തോടെ നിര്‍മിച്ച് പ്രചരിപ്പിച്ചു.
കാഴ്ചയില്‍ യഥാര്‍ഥ മനുഷ്യരെന്ന് തോന്നുന്ന വനിതാ പുരുഷ വാര്‍ത്താ അവതാരകരായിരുന്നു വീഡിയോയില്‍ ഉണ്ടായിരുന്നത്. വൂൾഫ് ന്യൂസ് എന്ന ചാനലിന്റെ വീഡിയോ എന്ന തരത്തിലായിരുന്നു ചിത്രീകരണം. തോക്കുകൊണ്ടുള്ള ആക്രമണങ്ങള്‍ തടയുന്നതില്‍ യുഎസ് ഭരണകൂടം പരാജയപ്പെട്ടു എന്നത് ഉള്‍പ്പടെ യുഎസിനെതിരായ ജനവികാരം സൃഷ്ടിക്കുന്നതിനുള്ള വാര്‍ത്തകളായിരുന്നു വീഡിയോകളില്‍. ഫേസ്ബുക്ക്, ട്വിറ്റര്‍, യൂട്യൂബ് പോലുള്ള പ്ലാറ്റ്ഫോമുകളിലെ ചൈനീസ് ഇടപെടലിന്റെ ഉദാഹരണമായി യുഎസ് ഈ വീഡിയോ എടുത്തുകാണിക്കുന്നു.
മറ്റൊരു സംഭവം ഇങ്ങനെയാണ്, 2018 ല്‍ ആഫ്രിക്കന്‍ രാജ്യമായ ഗാബോണിന്റെ പ്രസിഡന്റ് അലി ബോംഗോ സ്‌ട്രോക്ക് ഉള്‍പ്പടെയുള്ള ആരോഗ്യ പ്രശ്നങ്ങളെ തുടര്‍ന്ന് പൊതുമധ്യത്തില്‍ നിന്ന് മാറിനിന്നു. ഏറെ നാളുകള്‍ക്ക് ശേഷം അദ്ദേഹം ഒരു വീഡിയോയിലൂടെ ജനങ്ങളെ അഭിസംബോധന ചെയ്തു. ആരോഗ്യ പ്രശ്നങ്ങള്‍ക്കിടെ ചിത്രീകരിച്ച് ഈ വീഡിയോയില്‍ ബോംഗോയുടെ ശരീര ചലനങ്ങളില്‍ അസ്വാഭാവികതകളുണ്ടായിരുന്നു.
.jpg?$p=24dc233&&q=0.8)
ഈ വീഡിയോ ഡീപ്പ് ഫേക്ക് ആണെന്നുള്ള പ്രചാരണം ശക്തമായി. പ്രസിഡന്റ് മരിച്ചുവെന്ന് വരെയുള്ള അഭ്യൂഹങ്ങള്‍ പരന്നു. ഒടുവില്‍ സൈന്യം അധികാരം പിടിച്ചടക്കാനുള്ള ശ്രമം നടത്തുന്നതില്‍ വരെ കാര്യങ്ങളെത്തി. എന്നാല്‍ ആശ്രമം പരാജയപ്പെട്ടു. അലി ബോംഗോ പിന്നീട് പൊതുമധ്യത്തില്‍ വരികയും ചെയ്തു. വീഡിയോ യഥാര്‍ഥമാണോ, കൃത്രിമമാണോ എന്ന് തിരിച്ചറിയാന്‍ ആകാത്ത അവസ്ഥയിലേക്ക് ഡീപ്പ് ഫേക്ക് കൊണ്ടുചെന്ന് എത്തിച്ചതിന് ഒരു ഉദാഹരണമാണിത്.
ഒരു പ്രത്യേക മതവിഭാഗങ്ങള്‍ക്കുമേല്‍, പ്രത്യേക വംശക്കാര്‍ക്കുമേല്‍ ഒരു ഭരണകൂടമെ ഭൂരിപക്ഷ സുമദായങ്ങളോ നടത്തുന്ന അതിക്രമങ്ങളുടെ ഡീപ്പ് ഫേക്ക് വീഡിയോകള്‍ പ്രചരിപ്പിച്ച് സമൂഹത്തില്‍ പ്രശ്നങ്ങളും അസ്വസ്ഥതയും സൃഷ്ടിക്കാനുള്ള ശ്രമങ്ങളും നടക്കുന്നുണ്ട്. വര്‍ഗീയ വംശീയ ധ്രുവീകരണങ്ങള്‍ക്കും കലാപങ്ങള്‍ക്കും വരെ അത് കാരണമാവാം.
സാമ്പത്തിക തട്ടിപ്പുകള്‍, അട്ടിമറികള്‍
ഒട്ടനവധി ഓണ്‍ലൈന്‍ സാമ്പത്തിക തട്ടിപ്പുകള്‍ നടക്കുന്നുണ്ട്. അക്കൂട്ടത്തിലേക്ക് ഡീപ്പ് ഫേക്ക് സംവിധാനങ്ങളെ പ്രയോജനപ്പെടുത്തിയുള്ള തട്ടിപ്പുകള്‍ക്കും സാധ്യതയുണ്ട്. ഒരു സ്ഥാപന മേധാവിയുടെ ശബ്ദം വ്യാജമായി നിര്‍മിച്ച് ഒരു ജീവനക്കാരനെ ഫോണ്‍ ചെയ്ത് പണം ആവശ്യപ്പെടാം. കമ്പനിയുടെ തന്നെ പണം മറ്റാര്‍ക്കെങ്കിലും കൊടുത്തുവിടാനോ ഓണ്‍ലൈനായി കൈമാറാനോ ആവശ്യപ്പെടാം. സ്വന്തം മേധാവിയുടെതന്നെ ശബ്ദത്തില്‍ വരുന്ന ഇത്തരം ഫോണ്‍ കോളുകളില്‍ ജീവനക്കാര്‍ കബളിപ്പിക്കപ്പെട്ടേക്കാം.
ഫെയ്സ്ബുക്ക് മേധാവി സക്കര്‍ബര്‍ഗിന്റെ ഡീപ്പ് ഫേക്ക് വീഡിയോയെ പോലെ വലിയൊരു ബാങ്കിങ് സ്ഥാപനത്തിന്റെ മേധാവി തന്റെ സ്ഥാപനം കടുത്ത സാമ്പത്തിക പ്രതിസന്ധിയിലാണെന്നും അടച്ചുപൂട്ടല്‍ ഭീഷണി നേരിടുകയാണെന്നും പ്രഖ്യാപിക്കുന്ന ഒരു ഡീപ്പ് ഫേക്ക് വീഡിയോ പ്രചരിപ്പിക്കപ്പെട്ടാല്‍ എന്താണ് സംഭവിക്കുക. ഒരു കുറ്റവാളിക്ക് അത്തരം വീഡിയോകള്‍ ഉപയോഗിച്ച് സ്ഥാപനങ്ങളെ ഭീഷണിപ്പെടുത്താന്‍ വരെ സാധിച്ചേക്കും.
കാണുന്നതൊന്നും വിശ്വസിക്കാനാവാത്ത കാലം
'വീഡിയോകളും, ശബ്ദ റെക്കോര്‍ഡുകളും, ചിത്രങ്ങളും ലോകത്തിന്റെ വിവിധ ഭാഗങ്ങളില്‍ നിന്ന് ശേഖരിച്ച വിവരങ്ങളും വിശ്വസിക്കാനാവാതെ വന്നാല്‍ അത് തീര്‍ച്ചയായും രാജ്യസുരക്ഷാ ഭീഷണിയാണ്.' എന്ന സാങ്കേതിക വിദഗ്ദനായ ഹാനി ഫാരിദിന്റെ വാക്കുകള്‍ എഐ അധിഷ്ഠിത യുഗത്തില്‍ നമ്മളെല്ലാം നേരിടാന്‍ പോവുന്ന വലിയ പ്രശ്നങ്ങള്ക്കുള്ള മുന്നറിയിപ്പാണ്.
ഡീപ്പ് ഫേക്ക് സംവിധാനങ്ങളിലൂടെ കൃത്രിമമായി നിര്‍മിക്കപ്പെടുന്ന 'സിന്തറ്റിക്ക് മീഡിയ'യും ഒപ്പം പ്രചരിക്കുന്ന വ്യാജ വാര്‍ത്തകളും ഒന്നിനേയും വിശ്വസിക്കാന്‍ ധൈര്യമില്ലാത്ത ഒരു സമൂഹത്തെ സൃഷ്ടിച്ചെടുക്കാം. സത്യവും നുണയും തിരിച്ചറിയാന്‍ ആളുകള്‍ക്ക് കഴിയാനാവാതെ വരും. എന്തിനെയും സംശയത്തോടെ മാത്രം നോക്കിക്കാണുന്ന ഒരു സമൂഹമായിരിക്കും അത്.
ചിത്രങ്ങളും, വീഡിയോകളും വോയ്സ് ക്ലിപ്പുകളുമാണ് ഇന്ന് പല വിഷയങ്ങളിലും തെളിവായി വരുന്നത്. യഥാര്‍ത്ഥമെന്നോണം ചിത്രങ്ങളും വീഡിയോകളും നിര്‍മിക്കാന്‍ സാധിക്കുമെന്ന് വന്നാല്‍ അവയെ എങ്ങനെ വിശ്വസിക്കും? നാളെ ഒരു വാര്‍ത്താ ചാനലിലെ ദൃശ്യങ്ങളില്‍ അവതാരകയുടെ ചുണ്ടുകളുടെ ചലനവും ശബ്ദവും മാറ്റി വ്യാജവാര്‍ത്ത സൃഷ്ടിച്ചെടുക്കന്ന സ്ഥിതി വന്നാല്‍? പ്രധാനമന്ത്രിയുടേതെന്ന പേരില്‍ ഒരു വിദ്വേഷ പ്രസംഗ വീഡിയോ പ്രചരിപ്പിക്കപ്പെട്ടാല്‍?. ആമുഖത്തില്‍ പറഞ്ഞ പോലെ കാണുന്നതൊന്നു വിശ്വസിക്കാനാവാത്ത അനിശ്ചിതമായൊരു അവസ്ഥയാണത്.
ഡീപ്പ് ഫേക്കുകളെ എങ്ങനെ കണ്ടെത്താം?
ഏറെ ഏറെ മികവോടെ നിര്‍മിച്ച ഡീപ്പ് ഫേക്കുകള്‍ ഒറ്റനോട്ടത്തില്‍ തിരിച്ചറിയുന്നത് പ്രയാസമാണ്. ഡീപ്പ് ഫേക്ക് വീഡിയോകളിലെ മുഖങ്ങള്‍ കണ്ണുകള്‍ ചിമ്മുന്നതില്‍ സാധാരണ നിലയിലായിരിക്കില്ലെന്ന് 2008 ചില അമേരിക്കന്‍ ഗവേഷകര്‍ നിരീക്ഷിക്കുകയുണ്ടായി. ഡീപ്പ് ഫേക്ക് വീഡിയോകള്‍ ശ്രദ്ധിച്ചാല്‍ അത് നമുക്കും കാണാം. കണ്ണുകള്‍ ചിമ്മുന്നത് പഠിച്ചെടുക്കാന്‍ അല്‍ഗൊരിതത്തിന് ഇതുവരെ സാധിച്ചിട്ടില്ല എന്ന് സാരം. പക്ഷെ അത് പഠിച്ചെടുക്കുന്നതോടെ ഡീപ്പ് ഫേക്ക് തിരിച്ചറിയാനുള്ള ആ വഴി അടയും.
ഗുണമേന്മയില്ലാത്ത ഡീപ്പ് ഫേക്ക് വീഡിയോകള്‍ തിരിച്ചറിയുക എളുപ്പമാണ്. ചുണ്ടുകളുടെ ചലനവും ശബ്ദവും തമ്മില്‍ ചേര്‍ച്ചയുണ്ടാവില്ല. അതുപോലെ ചര്‍മ്മം, മുടി, ആഭരണങ്ങള്‍ എന്നിവയിലെല്ലാം ചില പ്രശ്നങ്ങളും കാണാനാവും.
പരിഹാരമെന്ത് ?
ഡീപ്പ് ഫേക്കുകള്‍ തിരിച്ചറിയുന്നതിനുള്ള ശ്രമങ്ങള്‍ ഈ മേഖലയില്‍ ഇതിനകം ആരംഭിച്ചുകഴിഞ്ഞിട്ടുണ്ട്. 2020 ല്‍ മൈക്രോസോഫ്റ്റ്, ഫെയ്സ്ബുക്ക്, ആമസോണ്‍ തുടങ്ങിയ കമ്പനികളുടെ പിന്‍ബലത്തോടെ ഒരു ഡീപ്പ് ഫേക്ക് ഡിറ്റക്ഷന്‍ ചലഞ്ച് നടക്കുകയുണ്ടായി. ഡീപ്പ് ഫേക്കുകളെ കണ്ടെത്തുന്നതിനും മീഡിയാ ഉള്ളടക്കങ്ങളുടെ ആധികാരികത ഉറപ്പുവരുത്തുന്നതിനുമുള്ള എളുപ്പം ഉപയോഗിക്കാനാവുന്നതും ലഭ്യമാവുന്നതുമായ സാങ്കേതിക വിദ്യകള്‍ നമുക്ക് ആവശ്യമാണ്. എഐ നിര്‍മിത ഉള്ളടക്കങ്ങള്‍ കണ്ടെത്താനുള്ള ചില സംവിധാനങ്ങള്‍ ഇതിനകം നിലവില്‍ വന്നിട്ടുണ്ട്. എങ്കിലും അവയ്ക്ക് പരിമിതികള്‍ ഏറെയുണ്ട്. ഇനിയും മെച്ചപ്പെടാനുണ്ട്.
ഇതോടൊപ്പം ഭാവി മുന്നില്‍ കണ്ടുകൊണ്ടുള്ള ശക്തമായ നിയമ നിര്‍മാണം നടക്കേണ്ടതുണ്ട്. ഡീപ്പ് ഫേക്ക് സൃഷ്ടിക്കുന്ന പ്രശ്നങ്ങളെ നേരിടാനുള്ള പ്രധാന മാര്‍ഗങ്ങളിലൊന്ന്. ഡീപ്പ് ഫേക്കുകളുടെ നിര്‍മാണവും പ്രചാരണവും തടയുന്നതിനുള്ള കര്‍ശനമായ വ്യവസ്ഥകള്‍ നിയമമായി നിലവില്‍ വരണം.
ജനങ്ങളെ കാലാനുസൃതമായി ബോധവത്കരിക്കുന്നതിലൂടെ ഡീപ്പ് ഫേക്കുകള്‍ ഉയര്‍ത്തുന്ന അപകടങ്ങളെ നേരിടാന്‍ സമൂഹവും പ്രാപ്തമാവും. ഡീപ്പ് ഫേക്കിന്റെ കാലത്ത് വീഡിയോ, ശബ്ദം, ചിത്രങ്ങള്‍ എന്നിവയെ ശ്രദ്ധയോടെ സമീപിക്കേണ്ടതിന്റെ പ്രാധാന്യം ആളുകള്‍ തിരിച്ചറിയണം. ഓണ്‍ലൈനില്‍ ലഭിക്കുന്ന ഓരോ ഉള്ളടക്കവും വിശ്വസിക്കുന്നതിനും അവ മറ്റുള്ളവര്‍ക്ക് പങ്കുവെക്കുന്നതിനും മുമ്പ് രണ്ടാമത് ഒന്ന് ആലോചിക്കാന്‍ ഉപഭോക്താക്കള്‍ പ്രാപ്തമാവണം. വിവേചന ബുദ്ധിയോടെ കാര്യങ്ങളെ വീക്ഷിക്കുന്ന ഒരു ഉപഭോക്തൃ സമൂഹമായി വളരുക എന്നത് തന്നെയാണ് ഈ പ്രശ്നങ്ങള്ക്കുള്ള മുഖ്യ പ്രതിവിധി.
(2023 മേയില്‍ മാതൃഭൂമി ജി കെ & കറന്റ് അഫയേഴ്‌സില്‍ പ്രസിദ്ധീകരിച്ചത്‌)
Content Highlights: Deep Fakes, Artificial Intelligence, Machine Learning, Misinformation, Fake news, Ai pornography
ശാസ്ത്ര സാങ്കേതിക വിദ്യാ രംഗത്തെ കൂടുതല്‍ വാര്‍ത്തകള്‍ ടെലഗ്രാം വഴി അറിയാം ഗ്രൂപ്പില്‍ അംഗമാവൂ... ക്ലിക്ക് ചെയ്യൂ: https://t.me/technews_mbi
Also Watch
RELATED STORIES
.jpg?$p=aa62323&f=1x1&w=100&q=0.8)
IN CASE YOU MISSED IT
.jpg?$p=8384990&f=1x1&w=100&q=0.8)
.jpg?$p=aa62323&q=0.8&f=16x11&w=104)
.jpg?$p=bec7056&q=0.8&f=16x11&w=104)
വാര്‍ത്തകളോടു പ്രതികരിക്കുന്നവര്‍ അശ്ലീലവും അസഭ്യവും നിയമവിരുദ്ധവും അപകീര്‍ത്തികരവും സ്പര്‍ധ വളര്‍ത്തുന്നതുമായ പരാമര്‍ശങ്ങള്‍ ഒഴിവാക്കുക. വ്യക്തിപരമായ അധിക്ഷേപങ്ങള്‍ പാടില്ല. ഇത്തരം അഭിപ്രായങ്ങള്‍ സൈബര്‍ നിയമപ്രകാരം ശിക്ഷാര്‍ഹമാണ്. വായനക്കാരുടെ അഭിപ്രായങ്ങള്‍ വായനക്കാരുടേതു മാത്രമാണ്, മാതൃഭൂമിയുടേതല്ല. ദയവായി മലയാളത്തിലോ ഇംഗ്ലീഷിലോ മാത്രം അഭിപ്രായം എഴുതുക. മംഗ്ലീഷ് ഒഴിവാക്കുക..