அது 2022 ஆம் ஆண்டு, அப்போது 16 வயதான காய் தனது செல்போனில் ஸ்க்ரோலிங் செய்து கொண்டிருந்தார். அவர் தனது சமூக ஊடக பக்கத்தில் பார்த்த முதல் வீடியோவில் அழகான நாய் ஒன்று இருந்ததாக கூறுகிறார். அதன் பின்பு, பெரிய திருப்பம் ஒன்று நிகழ்ந்தது.
ஒருவர் கார் விபத்துக்கு உள்ளன வீடியோ, பெண்களை அவதூறாக பேசும் வீடியோ மற்றும் வன்முறையான சண்டைகள் குறித்த வீடியோ ஆகியவை அவருக்கு சமூக ஊடக பக்கத்தில் பரிந்துரைக்கப்பட்டதாக அவர் கூறுகிறார். ஏன் எனக்கு இது போல நடக்கிறது? என்று அவர் தன்னையே கேட்டுக்கொண்டார்.
ஆண்ட்ரூ காங் டிக்டாக் செயலியில் பயனர் பாதுகாப்பு குறித்த ஆய்வாளராகப் பணிபுரிந்தார். டிசம்பர் 2020 முதல் ஜூன் 2022 வரை அவர் இந்த பணியில் இருந்தார்.
அவரும் அவரது சக ஊழியரும், பிரிட்டனில் உள்ள 16 வயது சிறுவர்கள் உட்பட ஆப் பயனர்களுக்கு, இந்த செயலியின் அல்காரிதம் எப்படிப்பட்ட பரிந்துரைகளை செய்கிறது என்று ஆய்வு செய்தனர். இதற்கு முன் இவர் மெட்டா நிறுவனத்தில் பணிபுரிந்து உள்ளார்.
ஆண்ட்ரூ டிக்டாக் உள்ளடக்கத்தைப் பார்த்தபோது, சில பதின்ம வயது சிறுவர்களுக்கு வன்முறை மற்றும் ஆபாசப் படங்களைக் கொண்ட பதிவுகள் வருவதை பார்த்தார். அத்துடன் பெண்கள் மீதான அவதூறு கருத்துக்களை ஊக்குவிக்கும் வீடியோக்கள் பரிந்துரைக்கப்படுவதை கண்டு அதிர்ச்சி அடைந்ததாக பிபிசி பனோரமாவிடம் கூறுகிறார்.
மேலும் அவர் பதின்ம வயது சிறுமியருக்கு மட்டும் அவர்களின் விருப்பத்திற்கேற்ப உள்ளடக்கங்கள் பரிந்துரைக்கப்படுவதாக தெரிவித்தார்.
டிக்டாக் மற்றும் பிற சமூக ஊடக நிறுவனங்கள் செயற்கை நுண்ணறிவு (ஏ.ஐ) டூல் மூலம் பெரும்பாலான தீங்கு விளைவிக்கும் உள்ளடக்கத்தை அகற்றி வருகின்றன. மேலும் அதுபோன்ற பதிவுகளை மனிதர்களின் மேற்பார்வைக்கும் இது பரிந்துரைக்கிறது. ஆனால் ஏ.ஐ டூல்களால் இவை அனைத்தையும் அடையாளம் காண இயலாது.
“நான் டிக்டாக்கில் பணிபுரிந்த காலத்தில், அனைத்து வீடியோக்களையும் ஏ.ஐ அகற்றாது அல்லது மனிதர்களின் மேற்பார்வைக்கு பரிந்துரைக்காது. ஒரு வீடியோ குறிப்பிட்ட வரம்பை அடைந்தால் மட்டுமே மீண்டும் ஊழியர்களால் மதிப்பாய்வு செய்யப்படும்” என்று ஆண்ட்ரூ காங் கூறினார்.
ஒரு கட்டத்தில் மதிப்பாய்வு செய்தவதற்கான இந்த வரம்பு 10,000 அல்லது அதற்கு மேற்பட்ட பார்வைகளாக நிர்ணயிக்கப்பட்டதாக அவர் கூறுகிறார்.
பெரும்பாலான பெரிய சமூக ஊடக நிறுவனங்கள் 13 அல்லது அதற்கு மேற்பட்ட வயதுடையவர்களை தங்களது சேவைகளை பயன்படுத்த அனுமதிக்கிறது.
டிக்டாக்கின் விதிகளுக்கு உட்படாமல் உள்ள 99% வீடியோக்கள், அவை 10,000 பார்வைகளை எட்டுவதற்கு முன்பு ஏ.ஐ அல்லது பதிவுகளை மேற்பார்வை செய்யும் குழுக்களால் அகற்றப்படும் என்று அந்நிறுவனம் கூறுகிறது.
இந்த எண்ணிக்கையைக் காட்டிலும் குறைவான பார்வைகளைக் கொண்ட வீடியோக்களை தீவிரமாக பகுப்பாய்வு செய்வதாக அந்த நிறுவனம் கூறுகிறது
ஆண்ட்ரூ காங் மெட்டாவில் பணிபுரிந்தபோது, வேறு சில சிக்கல்கள் இருந்ததாக கூறுகிறார். பெரும்பாலான வீடியோக்கள் ஏ.ஐ மூலம் அல்லது பதிவுகளை மேற்பார்வை செய்பவர்கள் மூலம் அகற்றப்பட்டன. அத்துடன், ஒரு வீடியோ மீது பயனர்கள் அளிக்கும் புகார்களையும் அது நம்பியிருந்தது.
இரண்டு நிறுவனங்களிலும் இருந்தபோது இது குறித்து முறையிட்டதாக அவர் கூறுகிறார். ஆனால் இதனால் ஏற்படும் வேலை அதிகரிப்பு மற்றும் செலவுகளை கருத்தில் கொண்டு இதற்காக எந்த ஒரு தீர்வும் காணப்படவில்லை என்று அவர் கூறுகிறார்.
பின்னர் டிக்டாக் மற்றும் மெட்டாவில் சில மேம்பாடுகள் செய்யப்பட்டதாக அவர் கூறுகிறார். ஆனால் காய் போன்ற இளைய பயனர்கள் இன்னுமே ஆபத்தில் உள்ளனர் என்கிறார்.
ஆண்ட்ரூ காங் எழுப்பிய புகார்கள் தங்களுடைய கருத்துக்கள் மற்றும் அனுபவத்துடன் ஒத்துப்போகின்றன என்று சமூக ஊடக நிறுவனங்களைச் சேர்ந்த பல முன்னாள் ஊழியர்கள் பிபிசியிடம் கூறினர்.
அனைத்து முக்கிய சமூக ஊடக நிறுவனங்களின் அல்காரிதங்கள் இளம் பயனர்களுக்கு தீங்கு விளைவிக்கும் உள்ளடக்கத்தை பரிந்துரைக்கின்றன என்று பிரிட்டனின் தகவல் தொடர்பு துறை கட்டுப்பாட்டாளரான ஆஃப்காம் பிபிசியிடம் கூறியது
“நிறுவனங்கள் கண்மூடித்தனமாக இருக்கின்றன, பெரியவர்களை நடத்துவது போல் இளம் பயனர்களையும் நடத்துகின்றன”, என்று ஆஃப்காமின் ஆன்லைன் பாதுகாப்பு கொள்கை மேம்பாட்டு இயக்குனர் அல்முதேனா லாரா கூறுகிறார்.
‘எனது நண்பருக்கு நடைமுறை என்ன என்பதை புரியவைக்க வேண்டியிருந்தது’
இந்த துறையிலே பதின்ம வயதினருக்கான “முன்னணி பாதுகாப்பு” அமைப்புகளைக் கொண்டிருப்பதாகவும் பயனர்களைப் பாதுகாப்பாக வைத்திருக்க 40,000-க்கும் அதிகமானோர் பணிபுரிவதாக டிக்டாக் செயலி பிபிசியிடம் கூறியது.
இந்த ஆண்டு மட்டும் “செயலியின் பாதுகாப்பு” அமைப்பிற்காகவும், அதன் விதிகளை மீறும் பதிவுகளை நீக்குவதற்கும் 2 பில்லியன் டாலர்கள் (£1.5bn) அதிகமாக முதலீடு செய்ய இருப்பதாக அந்நிறுவனம் கூறியது.
பதின்ம வயதினருக்கு “நன்மை தரும் மற்றும் அவர்களின் வயதுக்கு உட்பட்ட பதிவுகளை அவர்களுக்கு பரிந்துரை செய்ய 50-க்கும் மேற்பட்ட வெவ்வேறு டூல் மற்றும் அம்சங்களைக் கொண்டுள்ளது என்று இன்ஸ்டாகிராம் மற்றும் ஃபேஸ்புக்கை நிர்வகிக்கும் மெட்டா நிறுவனம் கூறுகிறது.
வன்முறை அல்லது பெண்களை அவதூறு செய்யும் பதிவுகளின் மேல் தனக்கு ஆர்வமில்லை என்பதை குறிப்பதற்காக அமைக்கப்பட்டுள்ள இன்ஸ்டாகிராம் மற்றும் டிக்டாக்கின் டூல்களை பயன்படுத்த முயற்சித்ததாக காய் பிபிசியிடம் கூறினார். ஆனாலும் கூட அவருக்கு இது போன்ற பதிவுகள் தொடர்ந்து பரிந்துரைக்கப்பட்டதாக அவர் கூறுகிறார்.
“இது போன்ற தீய பதிவுகளால், நமது சிந்தனையில் தீய கருத்துக்கள் எழுகின்றன. அதிலிருந்து வெளி வர முடியாது. எனவே நாம் நாள் முழுவதும் அது குறித்து மட்டும் யோசிக்கவேண்டியதாக இருக்கிறது”, என்று அவர் கூறினார்.
ஆனால் அவருக்கு தெரிந்த பதின்ம வயது பெண்களுக்கு இசை, மேக்கப் சார்ந்த வீடியோக்கள் பரிந்துரைக்கப்படுவதாக அவர் தெரிவித்தார்.
காய்க்கு தற்போது 18 வயதாகிறது. இன்று வரை அவருக்கு இன்ஸ்டாகிராம் மற்றும் டிக்டாக் இரண்டிலும் வன்முறை மற்றும் பெண்களை அவதூறு செய்யும் பதிவுகள் பரிந்துரைக்கப்படுவதாக அவர் கூறுகிறார்.
அவருக்கு பரிந்துரைக்கப்பட்ட இன்ஸ்டாகிராம் ரீல்களை நாம் பார்த்தால், குடும்ப வன்முறை குறித்த பதிவுகள் இடம்பெறுகின்றன. அடுத்து ஒரு நபர் லாரி விபத்துக்கு ஆளாவது போன்ற பதிவுகளும் இருக்கின்றன.
மில்லியன்கணக்கான லைக்குகளைக் கொண்ட வீடியோக்கள் தனது வயதுடைய மற்ற இளைஞர்களை அதனை பார்க்க தூண்டும் வகையில் இருப்பதாக காய் கூறுகிறார்.
உதாரணமாக, தனது நண்பர்களில் ஒருவர் சமூக ஊடக பிரபலம் ஒருவரின் பதிவுகளால் ஈர்க்கப்பட்டு, தவறான கருத்துக்களைப் பின்பற்றத் தொடங்கினார் என்று அவர் கூறினார்.
“எனது நண்பர் இதனால் மிகவும் பாதிக்கப்பட்டு, பெண்களைப் பற்றி அவதூறாக பேச தொடங்கினார். அவருக்கு நடைமுறை என்ன என்பதை புரிய வைக்க வேண்டியிருந்தது”, என்று காய் கூறினார்.
காய் இதுபோன்ற சில பதிவுகளின் கீழ் “இது எனக்கு பிடிக்கவில்லை” என்று கமெண்ட் செய்துள்ளார். தற்செயலாக வீடியோக்களை லைக் செய்தபோது, அதை உடனே அன்லைக் செய்ய முயற்சித்ததாகவும் காய் கூறுகிறார். ஆனாலும் அவரது சமூக ஊடக பக்கங்களில் இது போன்ற வீடியோ பரிந்துரைகளை நிறுத்த முடியவில்லை என்று கூறினார்.
டிக்டாக் அல்காரிதம் அமைப்பு எவ்வாறு செயல்படுகிறது?
“செயலியில் மக்களின் ஈடுபாடு பொறுத்தே அல்காரிதம் நிர்ணயிக்கப்படுகிறது”, என்று ஆண்ட்ரூ காங்கின் கூறுகிறார்.
ஒரு பயனர் செயலியில் பதிவு செய்யும்போது அவரது விருப்பு வெறுப்புகளை அவர்கள் குறிப்பிடுவதே முதல் படியாகும். 16 வயது இளைஞர்களுக்கு அல்காரிதம்கள் மூலம் பரிந்துரைக்கப்படும் உள்ளடக்கங்கள் எல்லாம் அவர்கள் முதலில் பதிவு செய்த விருப்பங்களை பொருத்தும் மற்றும் அதே வயதுடைய பிற பயனர்களின் விருபங்களை பொறுத்தே அமையும் என்று ஆண்ட்ரூ கூறுகிறார்.
அல்காரிதம்கள் பயனரின் பாலினம் பொறுத்து அவர்களுக்கு உள்ளடக்கங்களை பரிந்துரைப்பதில்லை என டிக்டாக் கூறுகிறது.
ஆனால் பதின்ம வயது பயனர்கள் முதலில் தெரிவித்த விருப்பங்கள் மற்றும் பாலின அடிப்படையில் பிரிக்கப்படுகின்றனர் என ஆண்ட்ரூ கூறுகிறார்.
வன்முறை சார்ந்த வீடியோக்களை விரும்பும் பிற பதின்ம வயது பயனர்களின் விருப்பத்தேர்வுகளை அடிப்படையாக கொண்டு சில 16 வயதான பயனர்களுக்கும் இதே போன்று வன்முறை வீடியோக்கள் பரிந்துரைக்கப்படலாம் என்று முன்னாள் டிக்டாக் ஊழியர் ஒருவர் கூறுகிறார்
பாப் பாடகர்கள், பாடல்கள், மேக்கப் போன்றவற்றை விரும்புவதாக பதின்ம வயது பெண் பயனர்கள் செயலியில் தேர்வு செய்துள்ளனர் . இதனால் அவர்களுக்கு வன்முறை சார்ந்த வீடியோக்கள் அவர்களுக்கு பரிந்துரைக்கப்படவில்லை என்றும் அவர் கூறுகிறார்.
அல்காரிதம்கள் “reinforcement learning” என்ற தொழில்நுட்பத்தை பயன்படுத்துகின்றன. இதன் மூலம் பயனர்கள் வெவ்வேறு வீடியோக்களை எவ்வாறு அணுகுகிறார்கள் என்று கண்டறியமுடியும் என்கிறார்.
ஒரு பயனர் அதிக நேரம் ஒரு வீடியோவை பார்த்து, அதை லைக் செய்து, பதிவின் கீழ் கமெண்ட் செய்யும் அளவிற்கு, பதிவுகளில் பயனர்களின் ஈடுபாட்டை அதிகரிக்கும் வகையில் இந்த முறை வடிவமைக்கப்பட்டுள்ளது என்று ஆண்ட்ரூ காங் கூறுகிறார்.
பயனர்களுக்கு என்ன விதமான வீடியோ பதிவுகள் பரிந்துரைக்கப்படுகிறது என்று டிக்டாக்கில் அல்கரிதம்களை கையாளும் குழுக்களுக்குகே தெரியாது என்று ஆண்ட்ரூ குற்றம் சாட்டுகிறார்.
“பார்வையாளர்களின் எண்ணிக்கை, வயது, டிரெண்ட் மட்டுமே அவர்களுக்கு முக்கியமாக இருக்கிறது. என்ன விதமாக உள்ளடக்கங்கள் பரிந்துரைக்கப்படுகிறது என்பது அவர்களுக்கு அவசியமற்றதாக இருக்கிறது” என்று முன்னாள் டிக்டாக் ஆய்வாளர் ஒருவர் கூறினார்.
அதனால்தான், 2022-ஆம் ஆண்டு ஆண்ட்ரூ மற்றும் அவரது சக ஊழியரும் 16 வயதுடைய பயனர்களுக்கு எந்த வகையான வீடியோக்கள் பரிந்துரைக்கப்படுகின்றன என்பதை ஆராய முடிவு செய்தனர்.
சில இளம் வயது பயனர்களுக்கு வன்முறை சார்ந்த தீங்கு விளைவிக்கும் உள்ளடக்கங்கள் பரிந்துரைக்கப்படுவது கவலைக்குரியதாக இருக்கிறது என்று ஆண்ட்ரூ கூறினார். மேலும் டிக்டோக்கின் விதிமுறைகளை புதுப்பிக்க வேண்டும் என்றும் அவர் பரிந்துரைத்தார்.
வெவ்வேறு துறைகளை சார்ந்த நிபுணர்களை நியமித்து இது போன்ற உள்ளடக்கங்களை ஆராய வேண்டும் என்று அவர்கள் டிக்டாக்கிற்கு பரிந்துரைத்தார்கள். ஆனால் அந்த நேரத்தில் அவர்களின் பரிந்துரைகள் நிராகரிக்கப்பட்டன என்று ஆண்ட்ரூ கூறுகிறார்.
அதே நேரத்தில் டிக்டாக்கில் உள்ளடக்கங்களை ஆராய நிபுணர்கள் இருப்பதாகவும், சமூக வலைத்தளம் வளர்ச்சி அடையும்போது இது போன்ற கூடுதல் நபர்களை பணியமர்த்தியதாகவும் டிக்டாக் நிறுவனம் கூறுகிறது. அவர்களின் உதவி கொண்டு பல்வேறு வகையான தீங்கிழைக்கும் உள்ளடக்கத்தை நீக்கியதாக அந்நிறுவனம் கூறியது.
டிக்டாக் மற்றும் மெட்டா நிறுவனங்களில் ஒரு ஊழியராக இருந்து கொண்டே இது போன்ற மாற்றங்களைச் செய்வது மிகவும் கடினமாக இருந்தது என்று ஆண்ட்ரூ காங் கூறினார்.
“தங்கள் தயாரிப்புகளை விளம்பரப்படுத்துவதில் ஆர்வமுள்ள ஒரு தனியார் நிறுவனத்திடம் சென்று அவர்களின் செயல்பாடுகளை கட்டுப்படுத்திக் கொள்ளுமாறு கூறுவது என்பது பசியுடன் இருக்கும் புலியின் கூண்டுக்குள் சென்று என்னை சாப்பிட வேண்டாம் என்று கேட்பது போன்றது” என்று அவர் கூறுகிறார்.
குழந்தைகள் மற்றும் பதின்வயதினர்கள் ஸ்மார்ட்போன்களைப் பயன்படுத்துவதை நிறுத்திக்கொண்டால் அவர்களின் வாழ்க்கை சிறப்பாக இருக்கும் என்றும் அவர் கூறுகிறார்.
ஆனால் காயை பொறுத்தவரை, பதின்ம வயதினரை ஸ்மார்ட்போன்கள் அல்லது சமூக ஊடகங்கள் பயன்படுத்துவதை நிறுத்த சொல்வது என்பது இதற்கு தீர்வாகாது.
ஃபோன், அவரது வாழ்க்கையின் ஒருங்கிணைந்த பகுதியாகும். நண்பர்களுடன் உரையாடுவது, வெளியில் செல்லும்போது வழிகாட்டுவதற்கும், பொருட்களை வாங்க பணம் செலுத்துவதற்கும் ஃபோன் முக்கியமாக பயன்படுகிறது.
மாறாக, பதின்வயது பயனர்கள் பார்க்க விரும்பாதவற்றை சமூக ஊடக நிறுவனங்கள் கருத்தில் கொள்ள வேண்டும் என்று அவர் விரும்புகிறார். பயனர்களின் விருப்பத்தேர்வுகளுக்கு ஏற்ப உள்ளடக்கங்களை பரிந்துரைக்கும் தொழில்நுட்ப அமைப்புகளை உருவாக்க வேண்டும் என்று அவர் விரும்புகிறார்.
“சமூக ஊடக நிறுவனங்கள் பணம் ஈட்டும் நோக்கத்திலே செயல்படுகின்றனர். பயனர்களின் கருத்துகளுக்கு அவர்கள் மதிப்பு கொடுக்கவில்லை என்று நான் உணர்கிறேன்”, என்று காய் கூறுகிறார்.
“தீங்கு விளைவிக்கும் உள்ளடக்கங்கள் பெரும்பாலும் குறைந்த அளவிலே சிறுவயதான பயனர்களுக்கு பரிந்துரைக்கப்படுகிறது. அது போன்ற பதிவுகள் அவர்களுக்கு பரிந்துரைக்கப்பட்டால், அதை பார்ப்பதில் இருந்து பயனர்களை தடுக்க முடியாததாகிவிடும் என்பதை நாங்கள் அறிவோம்” என்கிறார் ஆஃப்காமின் ஆன்லைன் பாதுகாப்பு கொள்கை மேம்பாட்டு இயக்குனர் அல்முதேனா லாரா
இதற்காக தகவல் தொடர்பு துறை நிறுவனங்களுக்கு அபராதம் விதிக்கலாம் மற்றும் தொடர்ந்து வீதி மீறினால் குற்றவியல் வழக்குகளை கூட அவர்கள் மீது பதிவு செய்யலாம் என்று ஆஃப்காம் கூறுகிறது. ஆனால் பிரிட்டனில் இந்த நடவடிக்கைகள் 2025 ஆம் ஆண்டு வரை நடைமுறைபடுத்தப்படாது.
இந்த துறையிலே முன்னணியில் இருக்கும் புதுமையான தொழில்நுட்பத்தை பயன்படுத்துவதாக டிக்டாக் நிறுவனம் கூறியுள்ளது.
மேலும் பதின்ம வயது பயனர்களுக்கு பாதுகாப்பான, மற்றும் அவர்களுக்கு வன்முறை போன்ற தீங்கு விளைவிக்கும் பொருத்தமற்ற உள்ளடக்கத்தை பரிந்துரைப்பதை தடுக்கும் வசதிகள் இந்த அமைப்பில் உள்ளதாக அந்நிறுவனம் தெரிவித்துள்ளது.
பதின்ம வயது பயனர்களுக்கு அவர்களது வயதிற்கு ஏற்ப உள்ளடக்கங்களை பரிந்துரைக்க 50-க்கும் மேற்பட்ட தொழில்நுட்ப அமைப்புகள் இருப்பதாக இன்ஸ்டாகிராம் மற்றும் பேஸ்புக்கை நிர்வகிக்கும் மெட்டா நிறுவனம் கூறியுள்ளது. தனது செயலிகளின் செயல்பாடுகளில் இருந்தே கருத்துக்களை பெற்று அதற்கான தீர்வு காண நிறுவனத்தின் கொள்கைகளை மாற்ற வலுவான செயல்முறைகளை மேற்கொள்வதாக அந்நிறுவனம் தெரிவித்தது.
– இது, பிபிசிக்காக கலெக்டிவ் நியூஸ்ரூம் வெளியீடு.