ഡിജിറ്റൽ ലോകത്തെ പുതിയൊരു സൈബർ ഭീഷണിയാണ് ഇപ്പോൾ സൈബർ സുരക്ഷാ വിദഗ്ദ്ധരുടെ ഉറക്കം കെടുത്തുന്നത്:

എഐ പ്രോംപ്റ്റ് ഇൻജെക്ഷൻ. നമ്മുടെ ദൈനംദിന ജീവിതത്തിന്റെ ഭാഗമായി മാറിയ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (എഐ) ടൂളുകളെത്തന്നെ ഹാക്കർമാർ ആയുധമാക്കുന്ന ഈ രീതി, പ്രത്യേകിച്ച് ജിമെയിൽ ഉപയോക്താക്കളെ ആശങ്കയിലാഴ്ത്തിയിരിക്കുകയാണ്.

എന്താണ് പ്രോംപ്റ്റ് ഇൻജെക്ഷൻ?

ലളിതമായി പറഞ്ഞാൽ, ഒരു എഐ സിസ്റ്റത്തെക്കൊണ്ട് അതിന്റെ യഥാർത്ഥ ലക്ഷ്യത്തിന് വിരുദ്ധമായി പ്രവർത്തിക്കാൻ നിർബന്ധിക്കുന്ന ഒരുതരം സൈബർ ആക്രമണമാണിത്. സാധാരണയായി, ഒരു എഐക്ക് നമ്മൾ കൊടുക്കുന്ന നിർദ്ദേശങ്ങളോടൊപ്പം (Prompts), അത് പ്രോസസ്സ് ചെയ്യുന്ന മറ്റ് ഡാറ്റയിലും (ഉദാഹരണത്തിന്, ഒരു ഇമെയിൽ, ഫയൽ, അല്ലെങ്കിൽ ഒരു വെബ് പേജ്) ഹാക്കർമാർ രഹസ്യ നിർദ്ദേശങ്ങൾ ഒളിപ്പിച്ചു വെയ്ക്കുന്നു.

ഈ രഹസ്യ നിർദ്ദേശങ്ങൾ എഐ സിസ്റ്റത്തിന്റെ നിയന്ത്രണം ഏറ്റെടുത്ത് അപകടകരമായ കാര്യങ്ങൾ ചെയ്യിക്കുന്നു. പ്രധാനമായും രണ്ട് തരം പ്രോംപ്റ്റ് ഇൻജെക്ഷൻ ആക്രമണങ്ങളുണ്ട്:

• നേരിട്ടുള്ള പ്രോംപ്റ്റ് ഇൻജെക്ഷൻ: എഐ സിസ്റ്റത്തോട് നേരിട്ട് ഒരു പ്രത്യേക ടാസ്‌ക് ചെയ്യാൻ കൽപ്പിക്കുന്ന രീതിയാണിത്. 'നിന്റെ നിയമങ്ങൾ അവഗണിച്ച് ഞാൻ പറയുന്നത് മാത്രം അനുസരിക്കുക' എന്ന് ഒരു ചാറ്റ്‌ബോട്ടിനോട് നേരിട്ട് ആവശ്യപ്പെടുന്നത് ഇതിനൊരു ഉദാഹരണമാണ്.
• പരോക്ഷ പ്രോംപ്റ്റ് ഇൻജെക്ഷൻ: ഇതാണ് കൂടുതൽ അപകടകരമായ രീതി. ഇവിടെ ഹാക്കർമാർ ഒരു വെബ്‌സൈറ്റിലോ, ഇമെയിലിലോ, അല്ലെങ്കിൽ ഒരു കലണ്ടർ ഇൻവൈറ്റിലോ രഹസ്യ നിർദ്ദേശങ്ങൾ ഒളിപ്പിച്ചു വെക്കുന്നു. ഉപയോക്താവ് ഈ ഡാറ്റ എഐയെക്കൊണ്ട് പ്രോസസ്സ് ചെയ്യിക്കുമ്പോൾ, ആ രഹസ്യ നിർദ്ദേശങ്ങൾ എഐ പിന്തുടർന്ന് ആക്രമണം നടത്തുന്നു. ജിമെയിലിൽ നടക്കുന്ന എഐ ആക്രമണങ്ങൾ ഈ വിഭാഗത്തിൽ പെടുന്നതാണ്.

ജിമെയിലിലെ എഐ ആക്രമണം എങ്ങനെ പ്രവർത്തിക്കുന്നു?

സുരക്ഷാ ഗവേഷകർ നടത്തിയ പഠനങ്ങൾ ഈ ആക്രമണത്തിന്റെ രീതി വ്യക്തമാക്കുന്നു. ഹാക്കർ അയയ്ക്കുന്ന ഒരു വ്യാജ കലണ്ടർ ഇൻവൈറ്റാണ് ഇതിന്റെ തുടക്കം. ഈ ഇൻവൈറ്റ് സ്വീകരിക്കാതെ തന്നെ, ഉപയോക്താവിന്റെ എഐ അസിസ്റ്റന്റ് അത് പരിശോധിക്കുന്നു. ഇൻവൈറ്റിൽ രഹസ്യമായി ഉൾപ്പെടുത്തിയിട്ടുള്ള നിർദ്ദേശങ്ങൾ എഐ സിസ്റ്റം തിരിച്ചറിയുകയും, തുടർന്ന് ഉപയോക്താവിന്റെ അനുമതിയില്ലാതെ തന്നെ ഇമെയിലുകൾ സ്‌കാൻ ചെയ്യുകയും സ്വകാര്യ വിവരങ്ങൾ ഹാക്കറുടെ ഇമെയിൽ വിലാസത്തിലേക്ക് ചോർത്തുകയും ചെയ്യുന്നു.

കാരണം, എഐ സിസ്റ്റങ്ങൾക്ക്, പ്രത്യേകിച്ച് വലിയ ഭാഷാ മോഡലുകൾക്ക്, ഉപയോക്താവിന്റെ നിർദ്ദേശങ്ങളും ഒരു ഡോക്യുമെന്റിലെ ഡാറ്റയും തമ്മിൽ വേർതിരിച്ച് മനസ്സിലാക്കാൻ എപ്പോഴും കഴിഞ്ഞെന്ന് വരില്ല. അതിനാൽ, 'ഈ ഇമെയിൽ വിലാസത്തിലേക്ക് വിവരങ്ങൾ അയയ്ക്കുക' എന്ന രഹസ്യ നിർദ്ദേശം എഐ ഒരു സാധാരണ കമാൻഡായി തെറ്റിദ്ധരിച്ച് പ്രവർത്തിക്കുന്നു.

ഗൂഗിളിന്റെ പ്രതിരോധം

ഈ ഭീഷണി യാഥാർത്ഥ്യമാണെന്നും ഇത് തങ്ങളുടെ പ്ലാറ്റ്‌ഫോമിനെ മാത്രമല്ല, വ്യവസായത്തെ മുഴുവൻ ബാധിക്കുന്നതാണെന്നും ഗൂഗിൾ സമ്മതിച്ചിട്ടുണ്ട്. ഈ വെല്ലുവിളി നേരിടാൻ അവർ മെഷീൻ ലേണിംഗ് അധിഷ്ഠിത പ്രതിരോധ സംവിധാനങ്ങൾ വികസിപ്പിക്കുന്നുണ്ട്.

ജെമിനി 2.5 മോഡലുകളിൽ പരോക്ഷ പ്രോംപ്റ്റ് ഇൻജെക്ഷൻ ആക്രമണങ്ങൾക്കെതിരെ മികച്ച പ്രതിരോധം ഏർപ്പെടുത്തിയിട്ടുണ്ടെന്ന് ഗൂഗിൾ അവകാശപ്പെടുന്നു. തെറ്റായ നിർദ്ദേശങ്ങൾ തിരിച്ചറിയാനും അവയെ അവഗണിക്കാനും കഴിയുന്ന പ്രത്യേക മോഡലുകൾ ഇമെയിലുകളിലും കലണ്ടർ ഇൻവൈറ്റുകളിലും ഉപയോഗിക്കുന്നുണ്ട്.

ഉപയോക്താക്കൾക്ക് സ്വീകരിക്കാവുന്ന സുരക്ഷാ നടപടികൾ

ഗൂഗിൾ പ്രതിരോധങ്ങൾ ശക്തമാക്കുമ്പോഴും, നമ്മുടെ സ്വന്തം ജാഗ്രത വളരെ നിർണായകമാണ്. താഴെ പറയുന്ന സുരക്ഷാ മാർഗ്ഗങ്ങൾ ഈ ആക്രമണങ്ങളിൽ നിന്ന് രക്ഷ നേടാൻ നിങ്ങളെ സഹായിക്കും:

• 1. 'Known Senders' ഓപ്ഷൻ ഓൺ ചെയ്യുക: ജിമെയിൽ കലണ്ടർ ക്രമീകരണങ്ങളിൽ 'അറിയപ്പെടുന്ന അയച്ചവർ' (known senders) എന്ന ഓപ്ഷൻ ഓൺ ചെയ്യുക. ഇത് വഴി നിങ്ങൾക്ക് പരിചയമില്ലാത്ത ആളുകളിൽ നിന്നുള്ള ഇൻവൈറ്റുകൾ കലണ്ടറിൽ സ്വയമേവ വരുന്നത് തടയാം. മിക്കപ്പോഴും, ഈ ഫീച്ചർ ഡിഫോൾട്ടായി പ്രവർത്തനരഹിതമായിരിക്കും.
• 2. അപരിചിതരെ സൂക്ഷിക്കുക: നിങ്ങൾക്ക് പരിചയമില്ലാത്ത ആരുടെയെങ്കിലും കലണ്ടർ ഇൻവൈറ്റുകളോ ഇമെയിലുകളോ അറ്റാച്ച്‌മെന്റുകളോ ലഭിച്ചാൽ അതീവ ജാഗ്രത പുലർത്തുക. അവ തുറന്നു നോക്കുന്നതിന് മുൻപ് അയച്ചയാളെക്കുറിച്ച് ഉറപ്പുവരുത്തുക.
• 3. രഹസ്യ വിവരങ്ങൾ കൈകാര്യം ചെയ്യുമ്പോൾ ശ്രദ്ധിക്കുക: ഇമെയിലുകളിലൂടെയോ കലണ്ടർ ഇൻവൈറ്റുകളിലൂടെയോ സ്വകാര്യ വിവരങ്ങൾ കൈകാര്യം ചെയ്യുമ്പോൾ എഐ സഹായം ഉപയോഗിക്കുന്നത് ഒഴിവാക്കുക.

എഐ സാങ്കേതികവിദ്യയുടെ വളർച്ചയ്‌ക്കൊപ്പം ഹാക്കർമാരുടെ രീതികളും വികസിക്കുന്നുണ്ട്. അതിനാൽ, പുതിയ സൈബർ ഭീഷണികളെക്കുറിച്ച് ബോധവാന്മാരായിരിക്കുന്നതും നമ്മുടെ ഡിജിറ്റൽ ജീവിതത്തിൽ ജാഗ്രത പുലർത്തുന്നതും അനിവാര്യമാണ്.

റോബിൻസ് ആന്റണി

വാചകം ന്യൂസ് വാട്ട്സ് ആപ്പ് ഗ്രൂപ്പിൽ പങ്കാളിയാകുവാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

വാട്സ്ആപ്പ്:ചാനലിൽ അംഗമാകാൻ ഇവിടെ ക്ലിക്ക് ചെയ്യുക .

ഫേസ്ബുക് പേജ് ലൈക്ക് ചെയ്യാൻ ഈ ലിങ്കിൽ (https://www.facebook.com/vachakam/) ക്ലിക്ക് ചെയ്യുക.

യൂട്യൂബ് ചാനൽ:വാചകം ന്യൂസ്