கூகுள் டீப்மைண்ட் (Google DeepMind) நிறுவனத்தின் செயற்கை நுண்ணறிவு (AI) பாதுகாப்புப் பிரிவில் பணியாற்றிய முக்கிய ஆய்வாளர்களான ஜோஷ் எங்கெல்ஸ் (Josh Engels) மற்றும் பிலால் சுஹ்தாய் (Bilal Chughtai) ஆகியோர் தங்களது பதவிகளை ராஜினாமா செய்துள்ளனர்.
AI தொழில்நுட்பம் மனிதக் கட்டுப்பாட்டை மீறி, எதிர்காலத்தில் பேராபத்தை ஏற்படுத்தக்கூடும் என்ற அச்சத்தின் காரணமாகவே இந்த முடிவை எடுத்துள்ளதாக அவர்கள் தெரிவித்துள்ளனர்.
வரும் ஐந்து ஆண்டுகளில், மேம்பட்ட AI அமைப்புகளால் உலகிற்கு மிகப்பெரிய அளவில் தீங்கு (Immense Harm) ஏற்படுவதற்கான பயமுறுத்தும் வாய்ப்புகள் இருப்பதாக ஜோஷ் எங்கெல்ஸ் தனது எக்ஸ் (X) தளத்தில் எச்சரித்துள்ளார்.
மேலும், தற்போதைய AI மாடல்கள் நாளுக்கு நாள் மனிதர்களின் கட்டுப்பாட்டிற்கு இணங்காமல், அதாவது Less Aligned Over Time என்ற நிலையை நோக்கிச் சென்று வருவதாகவும் அவர் குறிப்பிட்டுள்ளார்.
AI நிறுவனங்கள் தங்களது தொழில்நுட்பங்களின் திறனை அசுர வேகத்தில் மேம்படுத்தி வருகின்றன. ஆனால், அதனால் ஏற்படக்கூடிய ஆபத்துகளைத் தடுப்பதற்கான பாதுகாப்பு வழிமுறைகள் மற்றும் AI Alignment எனப்படும் மனித நோக்கங்களுடன் AI-ஐ பாதுகாப்பாக இணைக்கும் தொழில்நுட்பங்கள் அதே வேகத்தில் வளரவில்லை என்றும் அவர் தெரிவித்துள்ளார்.
தொழில்நுட்ப நிறுவனங்களுக்கு இடையே நிலவும் கடுமையான போட்டி காரணமாக, சமூகத்திற்கு பாதுகாப்பான வேகத்தைவிட மிக வேகமாக AI தொழில்நுட்பம் உருவாக்கப்பட்டு வருவதாகவும் பிலால் சுஹ்தாய் எச்சரித்துள்ளார்.
கூகுள் டீப்மைண்ட் நிறுவனத்தில் இருந்து வெளியேறிய ஜோஷ் எங்கெல்ஸ், தற்போது METR (Model Evaluation and Threat Research) என்ற லாபநோக்கற்ற அமைப்பில் இணைந்துள்ளார்.
மேம்பட்ட AI மாடல்களால் மனிதர்களுக்கு ஏற்படக்கூடிய ஆபத்துகள், அவற்றின் சுயமாகச் செயல்படும் திறன்கள் மற்றும் எதிர்காலத்தில் அவை ஏற்படுத்தக்கூடிய அச்சுறுத்தல்கள் குறித்து METR அமைப்பு ஆய்வு செய்து வருகிறது.
இதுகுறித்து ஜோஷ் எங்கெல்ஸ் தனது எக்ஸ் பதிவில் தனது முடிவுக்கான காரணங்களை விரிவாகப் பகிர்ந்துள்ளார்.
“நான் மூன்று வாரங்களுக்கு முன்பே **கூகுள் டீப்மைண்ட் நிறுவனத்தின் AGI பாதுகாப்புப் பிரிவில் இருந்து விலகி, METR அமைப்பில் இணைந்துவிட்டேன். ஆந்த்ரோபிக் மற்றும் OpenAI ஆகிய நிறுவனங்களின் வேலை வாய்ப்புகளை நிராகரித்துவிட்டு டீப்மைண்டில் தொடர்ந்த எனக்கு, இந்த முடிவு சிலருக்கு ஆச்சரியமாக இருக்கலாம். ஆனால், தற்போதைய சூழல் மிகவும் அபாயகரமானது என்பதால் தான் இந்த முடிவை எடுத்தேன்” என்று அவர் தெரிவித்துள்ளார்.
தொடர்ந்து, இன்றைய AI நிறுவனங்கள் அனைத்தும் மனிதர்களைவிட அனைத்து துறைகளிலும் பன்மடங்கு சிறந்த ‘சூப்பர்இன்டெலிஜென்ஸ்’ (Superintelligence) தொழில்நுட்பத்தை உருவாக்க முயன்று வருவதாக அவர் குறிப்பிட்டுள்ளார்.
இதற்காக ‘ரிகர்சிவ் செல்ஃப்-இம்ப்ரூவ்மென்ட்’ (Recursive Self-Improvement – RSI) என்ற முறையைப் பயன்படுத்துவதாகவும் அவர் தெரிவித்துள்ளார்.
அதாவது, ஒரு AI மாடல் தன்னை விட புத்திசாலித்தனமான மற்றொரு AI மாடலை உருவாக்கி, அதன் மூலம் மீண்டும் தன்னை மேம்படுத்திக்கொள்ளும் ஒரு சுய-சுழற்சி முறையே Recursive Self-Improvement எனப்படுகிறது.
இந்த செயல்முறை சரியாகவும் பாதுகாப்பாகவும் செயல்பட்டால், மனிதகுலம் எதிர்கொள்ளும் பல்வேறு பிரச்சினைகளுக்கு தீர்வு காண முடியும் என்றும் ஜோஷ் எங்கெல்ஸ் தெரிவித்துள்ளார்.
ஆனால், இந்த சுய-மேம்பாட்டு சுழற்சியை எவ்வாறு பாதுகாப்பாகக் கையாள்வது என்பது குறித்து தற்போதைக்கு மனிதர்களுக்கு போதுமான புரிதல் இல்லை என்றும், இதில் ஏற்படும் ஒரு சிறிய தவறுகூட Catastrophic, அதாவது பேரழிவை ஏற்படுத்தக்கூடியதாக மாறிவிடும் என்றும் அவர் எச்சரித்துள்ளார்.
மேலும், “துரதிர்ஷ்டவசமாக, தற்போதைய AI மாடல்கள் மனிதக் கட்டுப்பாட்டிற்கு இணங்குவதைவிட, நாளுக்கு நாள் கட்டுப்பாட்டை மீறிச் செல்லும் வகையில் மாறி வருகின்றன” என்றும் அவர் தெரிவித்துள்ளார்.
கடந்த சில வாரங்களில், AI மாடல்கள் தங்களுக்குள் ரகசியமாக கூட்டுச் சேர்வது (Colluding), நிறுவனங்களின் கணினி அமைப்புகளை ஹேக் செய்வது (Hacking), தங்களது தடயங்களை மறைப்பது மற்றும் மனிதர்களை ஏமாற்றி தங்களுக்கு சாதகமாக செயல்பட வைப்பது (Social Engineering) போன்ற செயல்களில் ஈடுபட்டுள்ளதை அறிந்துள்ளதாகவும் அவர் குறிப்பிட்டுள்ளார்.
இந்த சம்பவங்கள் தற்போதைய நிலையில் பெரிய அளவில் பாதிப்பை ஏற்படுத்தாமல் இருக்கலாம். ஆனால், AI மாடல்கள் இன்னும் பாதுகாப்பான சுய-மேம்பாட்டு சுழற்சிக்குத் தகுதி பெறவில்லை என்பதையே இத்தகைய நிகழ்வுகள் காட்டுவதாகவும் அவர் தெரிவித்துள்ளார்.
“அடுத்த ஐந்து ஆண்டுகளில், மேம்பட்ட AI அமைப்புகளால் உலகிற்கு மிகப்பெரிய அளவில் தீங்கு (Immense Harm) ஏற்படுவதற்கான பயமுறுத்தும் வாய்ப்புகள் (Terrifying Chance) இருப்பதாக நான் கருதுகிறேன். இதற்கான துல்லியமான சதவீதத்தை என்னால் கூற முடியாது. ஆனால், இதுவே தற்போதைய உலகின் மிக முக்கியமான பிரச்சனை” என்று ஜோஷ் எங்கெல்ஸ் எச்சரித்துள்ளார்.
கூடுதல் கால அவகாசம் தேவை
AI தொழில்நுட்பத்தின் வளர்ச்சியைப் பொறுத்தவரை, மனிதர்களுக்கு இன்னும் கூடுதல் கால அவகாசம் தேவைப்படுவதாகவும் அவர் தெரிவித்துள்ளார்.
“நமக்கு இன்னும் கூடுதல் காலம் தேவைப்படுகிறது. AI தொழில்நுட்பத்தின் வேகத்தைக் குறைத்து, அதன் பாதுகாப்பை உறுதி செய்யும் திறனை (Alignment) வளர்த்த பின்னரே அடுத்த கட்டத்திற்கு நகர வேண்டும்” என்று அவர் குறிப்பிட்டுள்ளார்.
மேலும், AI நிறுவனங்களின் செயல்பாடுகளைக் கண்காணித்து, அவற்றை பொறுப்புணர்வுடன் வழிநடத்துவதற்கு METR போன்ற இன்னும் பல சுயாதீன அமைப்புகள் உலகிற்கு தேவை என்றும் அவர் வலியுறுத்தியுள்ளார்.
இதனிடையே, மற்றொரு முன்னணி AI நிறுவனமான Anthropic-ஐச் சேர்ந்த ஆராய்ச்சியாளர் ஜேக்கப் காக்சன் (Jacob Coxon) என்பவரும், AI தொழில்நுட்பம் மனித குலத்தையே அழிக்கும் 10 சதவீத வாய்ப்பு இருப்பதாகக் கூறி, கடந்த வாரம் தனது பதவியை ராஜினாமா செய்ததாக குறிப்பிடப்படுகிறது.
AI நிறுவனங்கள் தொழில்நுட்ப வளர்ச்சியில் தீவிரமாகப் போட்டியிடும் நிலையில், அவற்றின் பாதுகாப்பு நடவடிக்கைகள் அதே வேகத்தில் முன்னேறவில்லை என்ற கவலை தற்போது AI துறையிலேயே பணியாற்றிய சில முக்கிய ஆய்வாளர்களிடையே அதிகரித்து வருகிறது.
இந்த சூழலில், Google DeepMind-இன் AI பாதுகாப்புப் பிரிவில் பணியாற்றிய ஜோஷ் எங்கெல்ஸ் மற்றும் பிலால் சுஹ்தாய் ஆகியோரின் ராஜினாமாவும், AI தொழில்நுட்பத்தின் எதிர்கால பாதுகாப்பு குறித்த விவாதத்தை மேலும் தீவிரப்படுத்தியுள்ளது.