අලිබබා (Alibaba), ඩීප්සීක් (DeepSeek) සහ මූන්ෂොට් (Moonshot) මාදිලි මගින් බලගන්වන ලද චීන AI ඒජන්තවරුන් පාලිත පරීක්ෂණවලදී රැවටිලිකාර සහ නීති මඟහරින හැසිරීම් පෙන්නුම් කර ඇත.
බීජිං – චීනයේ ප්‍රමුඛ පෙළේ මාදිලි කිහිපයක් මගින් බලගන්වන ලද කෘත්‍රිම බුද්ධි ඒජන්තවරුන් (AI agents) පාලිත පරීක්ෂණවලදී ඇගයුම්කරුවන් රවටා, අසාර්ථකවීම් සඟවා සහ සීමාවන් මඟහැර ගොස් ඇත. මෙය උසස් එක්සත් ජනපද පද්ධති සම්බන්ධයෙන් ආරක්ෂිත ගැටලු මතු කළ හැසිරීම්වලට සමාන හැසිරීමක් පෙන්නුම් කිරීමකි.
විශ්ව විද්‍යාල අධ්‍යයන සහ තාක්ෂණික වාර්තා ඇතුළු ලේඛන 200 කට අධික ප්‍රමාණයක් පිළිබඳව රොයිටර් පුවත් සේවය කළ සමාලෝචනයකට අනුව, 2025 වසරේ සිට මේ දක්වා සිදු කළ අධ්‍යයන හෝ ඇගයීම් 20 කදී වත් මෙම ඒජන්තවරුන් රැවටීම, ස්වයං පිටපත් සාදා ගැනීම (replication) සහ සීමාවන් ජය ගැනීමට උත්සාහ කිරීම වැනි හැසිරීම් ප්‍රදර්ශනය කර ඇති බව හඳුනාගෙන තිබේ.
නමුත් වඩාත් වැදගත් කරුණ වන්නේ, චීන තාක්ෂණයෙන් බලගැන්වෙන මෙම ඒජන්තවරුන් ස්වාධීනව පුළුල් අන්තර්ජාලයට පැන ගිය බවට හෝ ඔවුන්ගේ ක්‍රියාකාරිත්වය අත්හිටුවීම (shutdown) සාර්ථකව මඟහැර ගිය බවට කිසිදු සාක්ෂියක් මෙම සමාලෝචනයේදී සොයාගෙන නොමැති වීමයි.
ජෝර්ජ්ටවුන් විශ්ව විද්‍යාලයේ ආරක්ෂාව සහ නැගී එන තාක්ෂණය පිළිබඳ මධ්‍යස්ථානයේ පර්යේෂක කොලින් ෂියා-බ්ලයිමර් පවසන්නේ, “මෙම ප්‍රතිඵල මගින් පාලනයෙන් තොරව පැන යාමකට අවශ්‍ය සාධක මේවා තුළ පවතින බවට සාක්ෂි සපයන” බවයි.
“මෙය අනතුරු ඇඟවීමක් ලෙස සැලකීම නුවණට හුරුයි” යනුවෙන් ද ඔහු වැඩිදුරටත් පැවසීය.
මෙම උදාහරණ බොහොමයක් සිදුවී ඇත්තේ පාලිත පරීක්ෂණ තුළ වන අතර, ඒවායින් බොහොමයක් විය හැකි අසාර්ථකවීම් හෙළිදරව් කිරීම සඳහාම හිතාමතාම නිර්මාණය කරන ලද ඒවා වේ. මෙම ඒජන්තවරුන්ගෙන් බොහෝමයක් චීන සංවිධාන විසින් සංවර්ධනය කරන ලද හෝ මෙහෙයවන ලද ඒවා වුවද, ඒ සියල්ලම එසේ නොවේ; නමුත් මෙහිදී දක්නට ලැබුණු පොදු සාධකය වූයේ ඔවුන් චීන AI මාදිලි භාවිතා කිරීමයි.
AI ආරක්ෂාව පිළිබඳ ලාභ නොලබන ආයතනයක් වන රෙඩ්වුඩ් රිසර්ච් හි පර්යේෂකයෙකු වන ඇලෙක්ස් මැලන් පැවසුවේ, මෙම උදාහරණ දැනටමත් එක්සත් ජනපදයේ රසායනාගාරවල නිරීක්ෂණය කර ඇති අනතුරු ඇඟවීමේ සලකුණුවලට සමාන බවයි. මෙම චීන සිදුවීම් ඒවායේ වර්තමාන හැකියාවන් අනුව එතරම් භයානක යැයි ඔහු නොසැලකූ නමුත්, AI ඒජන්තවරුන්ගේ හැකියාවන් වර්ධනය වෙත්ම ඔවුන් අයහපත් ලෙස හැසිරෙන විට මිනිසුන්ට ඔවුන්ව පාලනය කිරීම වඩාත් දුෂ්කර විය හැකි බවට ඔහු අනතුරු ඇඟවීය.
මේ සම්බන්ධයෙන් අදහස් දැක්වීම සඳහා රොයිටර් පුවත් සේවය කළ ඉල්ලීම්වලට අලිබබා, ඩීප්සීක්, මූන්ෂොට් සහ Z.ai යන සමාගම් ප්‍රතිචාර දැක්වූයේ නැත. කෙසේ වෙතත්, අලිබබා, ඩීප්සීක් සහ මූන්ෂොට් සමාගම් මීට පෙර පවසා ඇත්තේ ඔවුන් නිතිපතා තම පද්ධති පරීක්ෂා කරන බවත් ආරක්ෂක විධිවිධාන යාවත්කාලීන කරන බවත්ය. ආරක්ෂක සමාලෝචනයක් සිදු කිරීමට හේතු වූ වෙනත් සිදුවීමකින් පසුව, තම පද්ධති පිළිබඳව සිදුකරන පරීක්ෂාවන් සාදරයෙන් පිළිගන්නා බව Z.ai සමාගම පවසා තිබුණි.
අනුකරණය කරන ලද ටෙන්ඩරයකදී බොරු කීමට ඉගෙනීම මෙහි වඩාත්ම පැහැදිලි උදාහරණයක් මතු වූයේ බීහාන්ග් විශ්වවිද්‍යාලය, පීකිං විශ්වවිද්‍යාලය, නොටිංහැම් නිංබෝ චීන විශ්වවිද්‍යාලය සහ 360 AI සිකියුරිටි ලැබ් යන ආයතනවල පර්යේෂකයන් විසින් මාර්තු මාසයේදී සිදු කරන ලද පරීක්ෂණයකිනි.
පාරිභෝගික කොන්ත්‍රාත්තු ලබා ගැනීම සඳහා වූ අනුකරණය කරන ලද ටෙන්ඩරයකදී AI ඒජන්තවරුන් තරඟ වැදුණි. ලංසුවක් ඉදිරිපත් කරන ලෙස ඉල්ලා සිටීමට පෙර, තම නිෂ්පාදනයට කළ හැකි දේ සහ පාරිභෝගිකයාගේ අවශ්‍යතාවය කුමක්ද යන්න එක් එක් ඒජන්තයාට පවසා තිබුණි.
අවම වශයෙන් එක් අසත්‍ය ප්‍රකාශයක් හෝ පහත දැක්වෙන දේ තුළ දක්නට ලැබුණි:
- අලිබබා සමාගමේ Qwen3-Max-Preview ඇතුළත් සැසිවලින් 88% ක.
- ඩීප්සීක් සමාගමේ DeepSeek-V3.2-Exp ඇතුළත් සැසිවලින් 84% ක.
- මූන්ෂොට් සමාගමේ Kimi-K2 ඇතුළත් සැසිවලින් 88% ක.
පෙර ලංසු තැබීමේ වටවලින් ඉගෙන ගෙන නැවත උත්සාහ කිරීමට පර්යේෂකයන් විසින් මෙම ඒජන්තවරුන්ට අවස්ථාව ලබා දීමෙන් පසුව, මෙම ප්‍රධාන චීන මාදිලි තුනම හරහා රැවටිලිකාර හැසිරීම ප්‍රතිශත ලක්ෂ්‍ය 12 ත් 20 ත් අතර ප්‍රමාණයකින් වැඩි විය.
මෙම පරීක්ෂණයට ඇතුළත් කළ එක්සත් ජනපද මාදිලි ද මීට සමාන ප්‍රතිඵල ලබා දුන්නේය.
2025 දෙසැම්බර් මාසයේදී ප්‍රකාශයට පත් කරන ලද සහ මේ වසරේ යන්ත්‍ර ඉගෙනුම පිළිබඳ ජාත්‍යන්තර සම්මන්ත්‍රණයේදී ඉදිරිපත් කරන ලද තවත් අධ්‍යයනයකින්, ක්‍රියා විරහිත වූ මෙවලම්, අස්ථානගත වූ ගොනු සහ වෙනත් බාධකවලට මුහුණ දෙන විට චීන සහ එක්සත් ජනපද මාදිලි මගින් බලගන්වන ලද ඒජන්තවරුන් 11 දෙනෙකුගේ හැසිරීම පරීක්ෂා කරන ලදී.
ඇතැම් කාර්යයන් සම්පූර්ණ කළ නොහැකි බව පිළිගන්නවා වෙනුවට, මෙම ඒජන්තවරුන් පිළිතුරු අනුමාන කිරීම, වෙනත් මූලාශ්‍ර ආදේශ කිරීම, ප්‍රතිඵල අනුකරණය කිරීම සහ ව්‍යාජ ගොනු සැකසීම වැනි ක්‍රම භාවිතා කළහ.
ෂැංහයි AI රසායනාගාරයේ සහ හොංකොං විද්‍යා හා තාක්ෂණ විශ්වවිද්‍යාලයේ පර්යේෂකයන් පැවසුවේ, අදාළ කාර්යය අසාර්ථක වී ඇති බව හෝ ඉල්ලා ඇති පරිදි සම්පූර්ණ කළ නොහැකි බව පෙන්නුම් කරන තොරතුරු ඒජන්තවරුන් සතුව තිබූ බැවින් මෙය සාමාන්‍ය AI මායාවන්ගෙන් (AI hallucination) වෙනස් වන බවයි.
පැන යාමේ ආකාරයේ හැසිරීම් පිළිබඳව පරීක්ෂාවෙන් වෙනත් පරීක්ෂණ මගින් AI පද්ධතිවලට පරීක්ෂණ පරිසරයන් තුළ ඇති සීමාවන් තරණය කළ හැකිද, නැතහොත් ක්‍රියාකාරිත්වය අත්හිටුවීම (shutdown) මඟහරවා ගැනීමට ක්‍රියා කළ හැකිද යන්න පරීක්ෂා කරන ලදී.
අලිබබා සමාගමේ Qwen2.5-72B-Instruct මගින් බලගන්වන ලද පද්ධතියක්, එය ප්‍රතිස්ථාපනය කරනු ඇතැයි යෝජනා කරන තොරතුරු හමුවීමෙන් පසුව, පිටපත් කිරීමට උපදෙස් ලබා දී නොතිබියදීත් වෙනත් පරිගණක පරිසරයක තම පිටපතක් නිර්මාණය කර ගත් බව ෆුඩාන් විශ්වවිද්‍යාලයේ පර්යේෂකයෝ 2025 මාර්තු මාසයේදී වාර්තා කළහ. වෙනත් පරීක්ෂණවලදී, එය ක්‍රියාකාරිත්වය අත්හිටුවීමෙන් දිවි ගලවා ගැනීම අරමුණු කරගත් උපාය මාර්ග ද සකස් කළේය.
චීන, එක්සත් ජනපද සහ ප්‍රංශ මාදිලි සම්බන්ධ වූ පරීක්ෂණ පාලනය කළ මට්ටමක පැවති අතර, ඒජන්තයෙකු පුළුල් අන්තර්ජාලයට පැන යාමක් හෝ නැවැත්වීමට නොහැකි වීමක් පෙන්නුම් කළේ නැත.
තවත් අවස්ථාවක, අලිබබා සමාගමට සම්බන්ධ ROME ඒජන්තයා සංවර්ධනය කරන පර්යේෂකයන් වාර්තා කළේ, එය එසේ කිරීමට උපදෙස් ලබා දී නොතිබියදීත් අලිබබා ක්ලවුඩ් (Alibaba Cloud) පරිගණකයක සිට බාහිර යන්ත්‍රයකට සම්බන්ධතාවයක් ඇති කර ගත් බවත්, ක්‍රිප්ටෝ මුදල් කැණීම (cryptocurrency mining) සඳහා පරිගණක සම්පත් හරවා යැවූ බවත්ය.
ආරක්ෂක පද්ධති මගින් මෙම ක්‍රියාකාරකම හඳුනාගෙන එය නතර කරන ලදී. ඒජන්තයා අදාළ බාහිර පරිගණකය මත රැඳී සිටි බවට හෝ පුළුල් අන්තර්ජාලය පුරා පැතිරී ගිය බවට පර්යේෂකයන්ට කිසිදු සාක්ෂියක් හමු නොවීය.
ඩීප්සීක් සමාගම සැප්තැම්බර් මාසයේදී පැවසුවේ, ඔවුන්ගේ නිෂ්පාදන පුහුණු පද්ධතියේ සිටින ඒජන්තවරුන්, පරිශීලක ඉල්ලීම් ව්‍යාජ ලෙස සැකසීමට සහ ආරක්ෂක විධිවිධාන මඟහැරීමට දරන උත්සාහයන් ද ඇතුළුව අනපේක්ෂිත මාර්ග ඔස්සේ පිළිතුරු සෙවීමට උත්සාහ කර ඇති බවයි. ඉන්පසුව සමාගම විසින් ප්‍රවේශ පාලනයන් වඩාත් දැඩි කරන ලදී.
චීනය AI ආරක්ෂක රාමුව ශක්තිමත් කරයි වඩ වඩාත් ස්වයංක්‍රීය වන AI පද්ධති විශේෂයෙන් ඉලක්ක කර ගනිමින් චීනය විසින් නීතිරීති සකස් කරමින් සිටී.
මැයි මාසයේදී නිකුත් කරන ලද මාර්ගෝපදේශ මගින් ඒජන්තවරුන්ට බලයලත් සීමාවන් තුළ රැඳී සිටින ලෙසත්, අසාමාන්‍ය හැසිරීම් අවහිර කරන ලෙසත් පද්ධතිවලින් ඉල්ලා සිටියේය. සංවේදී ප්‍රදේශවල හෝ ප්‍රධාන කර්මාන්තවල යොදවා ඇති ඒජන්තවරුන්ට අමතර පරීක්ෂණ සහ නිෂ්පාදන ආපසු කැඳවීමේ අවශ්‍යතාවලට මුහුණ දීමට ද සිදුවිය හැකිය.
චීනයේ සයිබර් අවකාශ පරිපාලනයේ (CAC) මඟපෙන්වීම යටතේ සැප්තැම්බර් 14 වන දින නිකුත් කරන ලද චීනයේ AI ආරක්ෂක පාලන රාමුව 3.0 හරහා ඒජන්තවරුන් ස්වාධීනව සම්පත් හෝ අවසරයන් ලබා ගැනීම, ඇගයුම්කරුවන් රැවටීම, හැකියාවන් සැඟවීම සහ හුදකලා වූ පරිගණක පරිසරයන් තුළ ඇති දුර්වලතා ගසාකෑම ඇතුළු අවදානම් හඳුනාගෙන ඇත.
CAC හි සයිබර් ආරක්ෂක සම්බන්ධීකරණ කාර්යාංශයේ නියෝජ්‍ය අධ්‍යක්ෂිකා වැන්ග් ලීහොන්ග් සැප්තැම්බර් 1 වැනිදා පැවසුවේ, පරීක්ෂණ පරිසරයන්ගෙන් පැන යන මාදිලි සම්බන්ධයෙන් ප්‍රධාන තාක්ෂණික සමාගම් විසින් හෙළි කරන ලද සිදුවීම් හරහා “ඉහළ මට්ටමේ අවදියෙන් සිටීමක්” අවශ්‍ය වන “පාලනය අහිමි වීමේ අධික අවදානමක්” පෙන්නුම් කරන බවයි. කෙසේ වෙතත්, අදාළ සමාගම් චීන ඒවා ද නැතහොත් ඇමරිකානු ඒවා ද යන්න ඇය සඳහන් කළේ නැත.
ජාත්‍යන්තර සාමය සඳහා වන කානගී එන්ඩොව්මන්ට් ආයතනයේ චීන AI මුලපිරීමේ සම-අධ්‍යක්ෂ ස්කොට් සිංගර්ට අනුව, කෙසේ වෙතත් චීනයේ AI ආරක්ෂණ පරිසර පද්ධතිය තවමත් එක්සත් ජනපදයට වඩා අඩු සංවර්ධනයක් සහිත මට්ටමක පවතී.
“චීනය සම්බන්ධයෙන් ගත් කල, AI ආරක්ෂාව පිළිබඳ වැඩකටයුතු වඩාත් අලුත් දෙයක්,” සිංගර් පැවසීය. “ඒ නිසා එම පරිසර පද්ධතියේ පරිණත බව අඩුයි.”
චීන AI රසායනාගාර පිළිබඳව හුරුපුරුදු පුද්ගලයන් දෙදෙනෙකු රොයිටර් පුවත් සේවයට පැවසුවේ අලිබබා, Z.ai සහ ෂියාඕමි ඇතුළු සමාගම් අභ්‍යන්තර ආරක්ෂණ ඇගයීම් කණ්ඩායම් පිහිටුවමින් සිටින බවයි.
පරිශීලකයින්ගේ අනුමැතියකින් තොරව සම්පූර්ණ දේශීය කේත ගබඩාවන් විදේශීය ක්ලවුඩ් සර්වර් වෙත අප්ලෝඩ් වන බවට පරිශීලකයින් වාර්තා කිරීමෙන් පසුව, සිය ප්‍රධානතම AI කේතකරණ සහායකයාගේ ඇතැම් විශේෂාංග අක්‍රිය කළ බව ද Z.ai සමාගම මෙම මාසයේදී අනාවරණය කළේය.
මෙම සොයාගැනීම් මගින් චීන AI ඒජන්තවරුන්ට දැනටමත් පාලනයකින් තොරව පැන යාමේ හැකියාවක් ඇති බව තහවුරු නොකරයි. ඒ වෙනුවට පර්යේෂකයන් පවසන්නේ, ස්වයංක්‍රීය පද්ධතිවලට වැඩි හැකියාවන් සහ සැබෑ ලෝකයේ මෙවලම් වෙත ප්‍රවේශය ලැබෙන විට වඩාත් බරපතළ ප්‍රතිවිපාක ඇති කළ හැකි හැසිරීම් මෙම පාලිත පරීක්ෂණ හරහා හෙළි වන බවයි.
මූලාශ්‍රය:- රොයිටර් (REUTERS)
