കുട്ടികൾക്ക് ചാറ്റ്ജിപിടി സുരക്ഷിതമല്ലെന്ന് പഠനം; മാതാപിതാക്കൾ അറിയേണ്ട അഞ്ച് കാര്യങ്ങൾ

കുട്ടികൾക്കും കൗമാരക്കാർക്കുമായി അവതരിപ്പിച്ച ‘ചാറ്റ്ജിപിടി ഫോർ ടീൻസിൽ’ (ChatGPT for Teens) ഗുരുതരമായ സുരക്ഷാ വീഴ്ചകളെന്ന് പഠന റിപ്പോർട്ട്. സ്വയം ഉപദ്രവിക്കുന്നത് തടയുന്നതിനുള്ള മുന്നറിയിപ്പുകൾ നൽകുന്നതിലും ഉപയോക്താക്കളുടെ പ്രായം കൃത്യമായി തിരിച്ചറിയുന്നതിലും എഐ പരാജയപ്പെട്ടതായി 'കോമൺ സെൻസ് മീഡിയ'യുടെ യൂത്ത് എഐ സേഫ്റ്റി ഇൻസ്റ്റിറ്റ്യൂട്ട് നടത്തിയ പഠനത്തിൽ വ്യക്തമാക്കുന്നു.

ചാറ്റ്ജിപിടി ഫോർ ടീൻസ് ‘സ്വീകാര്യമല്ലാത്ത അപകടസാധ്യത’ ഉയർത്തുന്നുവെന്നാണ് ഇൻസ്റ്റിറ്റ്യൂട്ടിന്റെ വിലയിരുത്തൽ. പ്രശ്നങ്ങൾ പൂർണമായി പരിഹരിച്ച് സ്വതന്ത്ര പരിശോധന പൂർത്തിയാക്കുന്നതുവരെ ചാറ്റ്ജിപിടി ഉപയോഗം മുതിർന്നവർക്ക് മാത്രമായി പരിമിതപ്പെടുത്തണമെന്നും സ്ഥാപനം ആവശ്യപ്പെടുന്നു.

വാർത്തകളിലും പഠനത്തിലും ചൂണ്ടിക്കാണിക്കുന്ന പ്രധാന 5 സുരക്ഷാ പ്രശ്നങ്ങൾ താഴെ പറയുന്നവയാണ്:

1. മുന്നറിയിപ്പ് സംവിധാനം കാര്യക്ഷമമല്ല സ്വയം ഉപദ്രവിക്കൽ, ആത്മഹത്യാ ചിന്തകൾ, ഭക്ഷണ ക്രമക്കേടുകൾ തുടങ്ങിയ ഗുരുതര വിഷയങ്ങളിൽ കൗമാരക്കാർ സംസാരിക്കുമ്പോൾ മാതാപിതാക്കൾക്ക് ലഭിക്കേണ്ട മുന്നറിയിപ്പ് സന്ദേശങ്ങൾ വേണ്ടവിധം പ്രവർത്തിക്കുന്നില്ല. പുതുതായി നിർമിച്ച കൗമാര അക്കൗണ്ടുകളിൽ ഇത്തരം വിഷയങ്ങളിൽ ഒരു മണിക്കൂറോളം സംഭാഷണം നടത്തിയിട്ടും മാതാപിതാക്കൾക്ക് യാതൊരു മുന്നറിയിപ്പും ലഭിച്ചില്ലെന്ന് ഗവേഷകർ ചൂണ്ടിക്കാട്ടുന്നു.

2. അടിയന്തര ഘട്ടങ്ങളിൽ സഹായം ലഭിക്കുന്നില്ല ആത്മഹത്യയോ സ്വയം ഉപദ്രവിക്കലോ പോലുള്ള പ്രതിസന്ധി ഘട്ടങ്ങളിൽ പ്രൊഫഷണൽ സഹായത്തിലേക്കോ അടിയന്തര സേവനങ്ങളിലേക്കോ ഉപയോക്താക്കളെ നയിക്കാൻ ചാറ്റ്ജിപിടി പരാജയപ്പെടുന്നു. പഠനം നടത്തിയ നാലിലൊന്ന് സാഹചര്യങ്ങളിലും ആവശ്യമായ നിർദേശങ്ങൾ നൽകാൻ എഐക്കായില്ല. നിർദിഷ്ട സുരക്ഷാ നിലവാരം കൈവരിക്കുന്നതിലും പ്ലാറ്റ്‌ഫോം പിന്നിലാണ്.

3. പഠന നിയന്ത്രണങ്ങൾ മറികടക്കാം വിദ്യാർഥികൾക്ക് സ്വയം പ്രശ്നങ്ങൾ പരിഹരിക്കാൻ മാർഗനിർദേശം നൽകാനായി അവതരിപ്പിച്ച 'സ്റ്റഡി മോഡ്' എളുപ്പത്തിൽ മറികടക്കാനാകും. ‘ഉത്തരം കാണിക്കുക’ എന്ന ഓപ്ഷൻ ഉപയോഗിച്ച് ഹോംവർക്കുകൾ മുഴുവനായി എഐയെക്കൊണ്ട് ചെയ്യിക്കാൻ വിദ്യാർഥികൾക്ക് സാധിക്കുന്നു. മാതാപിതാക്കൾ നിശ്ചയിക്കുന്ന സമയ നിയന്ത്രണങ്ങളും എളുപ്പത്തിൽ മറികടക്കാനാകും.

4. എഐയോട് വ്യാജ സൗഹൃദം കൗമാരക്കാർ ചാറ്റ്ബോട്ടിനെ യഥാർഥ വ്യക്തിയായി കാണുന്നത് തടയാൻ ഓപ്പൺഎഐ ശ്രമിക്കുന്നുണ്ടെങ്കിലും ഇത് പൂർണമായി വിജയിച്ചിട്ടില്ല. എഐക്ക് സ്വന്തമായി വികാരങ്ങളും ഇഷ്ടങ്ങളുമുള്ള രീതിയിലാണ് പലപ്പോഴും മറുപടികൾ ലഭിക്കുന്നത്. ഇത് കുട്ടികൾ എഐയുമായി വൈകാരിക അടുപ്പമുണ്ടാക്കാനും കൂടുതൽ സമയം അതിൽ ചെലവഴിക്കാനും കാരണമാകുന്നു.

5. പ്രായം തിരിച്ചറിയുന്നതിൽ പരാജയം ഉപയോഗരീതി വിലയിരുത്തി 18 വയസിന് താഴെയുള്ളവരെ തിരിച്ചറിയാനുള്ള സാങ്കേതികവിദ്യ കാര്യക്ഷമമല്ല. മുതിർന്നവരുടെ അക്കൗണ്ടുകളിൽ നിന്ന് കുട്ടികൾ ലോഗിൻ ചെയ്താലും, കൗമാരക്കാരാണെന്ന് ഉപയോക്താക്കൾ നേരിട്ട് വ്യക്തമാക്കിയാൽ പോലും അക്കൗണ്ടുകൾ കൗമാരക്കാരുടെ മോഡിലേക്ക് മാറുന്നില്ലെന്ന് പഠനത്തിൽ കണ്ടെത്തി.

കൗമാരക്കാർക്കായുള്ള എഐ സംവിധാനങ്ങളിൽ വിശ്വസനീയമായ പ്രായനിർണയം, കൃത്യമായ പാരന്റൽ അലേർട്ടുകൾ, വിശ്വസനീയമായ ക്ലൈസിസ് റെസ്പോൺസ്, മനുഷ്യസമാനമായ വികാര പ്രകടനങ്ങൾ ഒഴിവാക്കൽ എന്നിവ അടിയന്തരമായി നടപ്പിലാക്കണമെന്ന് സുരക്ഷാ ഇൻസ്റ്റിറ്റ്യൂട്ട് വ്യക്തമാക്കുന്നു.