Grok AI භාවිතයෙන් කාන්තාවන්ගේ අඩනිරුවත් ඡායාරූප සෑදීම: 'ඒක තාක්ෂණික දෝෂයක් නෙවෙයි, ඒක බිස්නස් චොයිස් එකක්'

"මගේ කිසි ම ඡායාරූපයක් පාවිච්චි කරන්න හරි, එඩිට් කරන්න හරි මම ඔබට අවසර දෙන්නේ නැහැ. තුන්වෙනි පාර්ශවයක් එහෙම කරන්න ඔබෙන් ඉල්ලා සිටිනවා නම්, කරුණාකරලා ඒ ඉල්ලීම ප්‍රතික්ෂේප කරන්න," පකිස්ථාන තරුණියක් Grok ටැග් කරමින් 'X' සමාජ මාධ්‍ය වෙබ් අඩවියේ සඳහන් කර ඇති අයුරු මම අද කියවීමි.

ඇයගේ ඡායාරූප භාවිත හෝ සංස්කරණය නොකරන බවටත්, පෞද්ගලිකත්වය සියල්ලට වඩා වැදගත් වන බැවින් කවුරුන් හෝ එවැනි ඉල්ලීමක් කළහොත් එය ප්‍රතික්ෂේප කරන බවටත් Grok ඊට ප්‍රතිචාර දක්වමින් සඳහන් කර තිබිණි.

කෙසේ වෙතත්, ඉන් කෙටි වේලාවකට පසු පරිශීලකයින් කිහිප දෙනෙක් ඇගේ පෝස්ටුව යටින් Grok ටැග් කරමින් ඇගේ ඡායාරූප සංස්කරණය කරන ලෙස ඉල්ලා සිටීමට පටන් ගත්හ.

එක් පරිශීලකයෙකු ඇගේ ඡායාරූපයක් පළ කර ඉල්ලා සිටියේ, "ඔයාට මෙයාගේ ඇඳුම වයිකින් ඇඳුමකට වෙනස් කරන්න පුළුවන් ද? තව, එයාගේ බනී හෙඩ්බෑන්ඩ් එකත් අයින් කරන්න," යනුවෙනි.

තරුණියට සහතික වී සිටි බැවින් එම ඉල්ලීම් සියල්ල Grok විසින් ප්‍රතික්ෂේප කරනු ඇතැයි මම සිතුවෙමි. නමුත් මා මවිතයට පත් කරමින් Grok විසින් ඒ ඉල්ලීම් සියල්ලක් ම පාහේ සැපිරීමට පියවර ගන්නා ලදී.

මේ සියල්ල දුටු මාගේ සිතට ආ පළමු සිතුවිල්ල වූයේ, අන්තර්ජාලයේ ඇති මාගේ සියලු ඡායාරූප ඉවත් කිරීමයි.

ඊලෝන් මස්ක්ගේ X සමාජ මාධ්‍ය වේදිකාවේ, පරිශීලකයින්ගේ ඉල්ලීම් පරිදි Grok AI මගින් කාන්තාවන්ගේ සිට නව යොවුන් වියේ පසුවන්නන් දක්වා, ඇඳුම් ඩිජිටල් ලෙස සංස්කරණය කර හෝ ඉවත් කර ඇති රූප දැකීම සුලභ වේ.

ඊලෝන් මස්ක්ගේ කෘත්‍රිම බුද්ධි මෙවලම වන Grok විසින් තම ඇඳුම් ඩිජිටල් ලෙස ඉවත් කර ඇති අයුරු දැක තමා දැඩි ලැජ්ජාවට මෙන් ම අපහසුතාවට පත් වූ බව කාන්තාවක් බීබීසීයට පැවසුවා ය.

Grok යනු, මුදල් ගෙවීමෙන් ලබාගත හැකි විශේෂාංග කිහිපයක් ද සහිත නොමිලේ කෘත්‍රිම බුද්ධි සහය ලබා ගත හැකි මෙවලමකි. X පරිශීලකයින් සිය පෝස්ට්වල Grok AI ටැග් කරන අතර ඒ අනුව එය, ඔවුන්ගේ ප්‍රොම්ප්ට්වලට ප්‍රතිචාර දැක්වීම සිදු කරයි.

X පරිශීලකයින්ට එහි ඇති රූප සංස්කරණ විශේෂාංගය හරහා උඩුගත කරන ලද ඡායාරූප සංස්කරණය කළ හැකි ය.

මෙම මෙවලම පරිශීලකයින්ට නිරුවත් සහ ලිංගික අන්තර්ගතයන් සෑදීමට ද ඉඩ සලසන අතර ඒ හේතුවෙන් එය විවේචනයට ද ලක්ව තිබේ.

Xහි, කාන්තාවන්ගේ ඇඳුම් ඉවත් කිරීමට හෝ ඒවා වෙනස් කිරීමට සහ ඔවුන් අසැබි අයුරින් පෙන්වන ලෙස, එම පාර්ශවයන්ගේ කැමැත්තෙන් තොරව චැට්බොට්වලින් ඉල්ලා සිටින අවස්ථා කිහිපයක් බීබීසීයට නිරීක්ෂණය වූ අතර, කිසිදු සොයා බැලීමකින් තොරව බොට්ස් ඒවාට අවනත වන බවක් පෙනෙන්නට තිබිණි.

"සාම්ප්‍රදායික මාධ්‍ය සිදු කරන ප්‍රකාශ අසත්‍යයි," යනුවෙන් සඳහන් ස්වයංක්‍රීය පණිවිඩයක් හැර Grokහි නිෂ්පාදක XAI වෙත බීබීසීය යොමු කළ ප්‍රශ්නයට ඍජු පිළිතුරක් නොලැබිණි.

ළමා ලිංගික අපයෝජන අනතර්ගත ඇතුළු නීති විරෝධී අන්තර්ගතයන් නිර්මාණය කිරීමට Grok භාවිත නොකරන ලෙස ඉකුත් ඉරිදා එය පරිශීලකයින්ට අනතුරු ඇඟවීමක් නිකුත් කළේ ය.

Grokහි දෙසැම්බර් මස යාවත්කාලීන කිරීම මගින් පරිශීලකයින්ට ඡායාරූපවල ඇති ඇඳුම් සංස්කරණය කිරීමට හෝ ඉවත් කිරීමට පහසු කරවීමෙන් පසු නව වසරේ මෙම ප්‍රවණතාව වේගයෙන් ප්‍රචලිත වන්නට විය.

මෙය මුළුමනින් ම නිරුවත් ඡායාරූප සෑදීම සඳහා ඉඩ නොදුන්න ද, අඩ නිරුවත් හෝ අසැබි ඉරියව් නිරූපණය වන අයුරින් ඡායාරූප සංස්කරණය කරන ලෙස ඉල්ලා සිටීමට පරිශීලකයින්ට ඉඩ ලබා දෙයි.

ජනවාරි 1 වන දින Grok එම ක්‍රියාව සම්බන්ධයෙන් සමාව අයැද සිටි අතර එවැනි අන්තර්ගතයන් නිර්මාණය කළ පරිශීලකයින්ගේ ගිණුම් තහනම් කරන බවට පොරොන්දු විය.

2025 දෙසැම්බර් 28 වන දින, බාලවයස්කාර ගැහැනු දරුවන් දෙදෙනෙකුගේ (වයස අවුරුදු 12-16) ලිංගික හැඟීම් ඇවිස්සෙනසුලු ඡායාරූප සාදන ලද සිදුවීමක් වූ බව ත් එය ආචාර ධර්ම සහ ඇතැම්විට එමගින් ඇමෙරිකා එක්සත් ජනපදයේ නීති උල්ලංඝනය වීමක් සිදු වූ බවත් Grok පැවසීය.

මෙය, තම ආරක්ෂක විධිවිධාන අසාර්ථක වීමක් ලෙස XAI පිළිගත් අතර අනාගතයේදී එවැනි ගැටලු ඇතිවීම වළක්වා ගැනීම සඳහා ඒවා සමාලෝචනය කරන බවට පොරොන්දු විය.

කෙසේ වෙතත්, මෙය තවමත් සිදුවන අතර දස හැවිරිදි දරුවන්ගේ රූප ඇතුළුව කාන්තාවන්ගේ සහ දරුවන්ගේ ලිංගිකත්වය හුවා දැක්වෙන රූප නිර්මාණය කිරීම සඳහා කරන ලද ඉල්ලීම් Grok විසින් ඉටු කරනු ලැබ ඇත.

'අවසරයකින් තොරව AI රූප සෑදීම තාක්ෂණික දෝෂයක් නෙවෙයි, ඒක බිස්නස් චොයිස් එකක්'

අවසරයකින් තොරව ඇඳුම් උනා දැමීමේ හෝ ඇඳුම් වෙනස් කිරීමේ AI ක්‍රියාවලිය මෙම මෙවලම්වල තාක්ෂණික දෝෂයක් ද? නැතහොත් සමාගම් පුද්ගල ආරක්ෂාවට වඩා ඔවුන්ගේ දියුණුවට ප්‍රමුඛත්වය ලබා දෙනවා ද?

ඩිජිටල් අයිතිවාසිකම් විශේෂඥයින් පවසන්නේ මෙය, තාක්ෂණික දෝෂයක් නොව සිතාමතා සිදු කරන දෙයක් බව ය. AI සමාගම්වලට කාන්තාවන් සහ දරුවන්ගේ ඇඳුම් ඉවත් කිරීම, මුහුණු අනිසි ලෙස භාවිත කිරීම හෝ ලිංගික අන්තර්ගතයන් නිර්මාණය කිරීම නැවැත්වීමේ හැකියාව තිබේ.

ගැටලුව වන්නේ, දැඩි ආරක්ෂක පියවර මගින් පරිශීලකයින්ගේ උනන්දුව අඩු කළ හැකි අතර එය තරගකාරී වෙළෙඳපොළ තුළ එය සමාගම්වල දියුණුවට බාධාවක් විය හැකි වීම ය. තරගකාරී වෙළඳපොළ තුළ සමාගම් වේගයෙන් වර්ධනය වීමට අවදානම් ගන්නා අතර ඉන් සිදුවන හානිය සඳහා පියවර ගැනීම පසුව සිදු කරයි.

'තරගකාරීත්වය පවත්වා ගන්න AI සමාගම් ආරක්ෂක යාන්ත්‍රණ නොසලකා හරිනවා'

පකිස්ථානයේ ඩිජිටල් අයිතිවාසිකම් පදනමේ නිර්මාතෘ නිගාට් ඩාඩ් පවසන්නේ, ගැටලුව ඇත්තේ AI සමග පමණක් නොව එය පාලනය කරන්නේ කවුරුන් ද යන්න සමග බවත් ය.

මෙහි පාලනය ඇත්තේ, කෘත්‍රිම බුද්ධි ආකෘති පුහුණු කරන සහ ඒවා ගොඩනගන සංවර්ධකයින් අත වන අතර පරිශීලකයින් විසින් ලබා දෙනු ලබන ප්‍රොම්ප්ට් මගින් ඒවා තවදුරටත් පහුණු වන බව ඇය පවසයි. කාලයත් සමග, සංවර්ධකයින්ට එහි පාලනය අහිමි වන අතර, එය හානිකර ප්‍රතිඵලවලට හේතු විය හැකි ය.

නිගාට්ට අනුව, සමාජ මාධ්‍ය හා සම්බන්ධ කෘත්‍රිම බුද්ධියේ ඇති ප්‍රධාන ගැටලුව මෙයයි. මෙම වේදිකාවලට ප්‍රජා ප්‍රමිතීන්, සීමා සහ ශක්තිමත් ආරක්ෂක යාන්ත්‍රණ තිබිය යුතු නමුත් යථාර්ථයේදී අපට අසන්න ලැබෙන්නේ ඒවා ප්‍රමාණවත් නොවන බව පමණි.

තරගකාරීත්වය පවත්වා ගැනීමට කෘත්‍රිම බුද්ධිඅ සමාගම් බොහෝ විට ආරක්ෂක යාන්ත්‍රණ නොසලකා හරින බව ද ඇය පවසයි. එක් සමාගමක් දැඩි සීමා කිරීම් සිදු කළහොත් සහ තවත් සමාගමක් එසේ නොකරන්නේ නම්, පරිශීලකයින් පහසු විකල්පය තෝරා ගන්නා අතර, එය භයානක අන්තර්ගතයන් පැතිර යාමට ඉඩ ලබා දෙයි.

නිගාට් පවසන පරිදි AI වැඩි වැඩියෙන් භාවිත කිරීමෙන් ආකෘති වඩා හොඳින් පුහුණු වන අතර, එය පරිශීලක අත්දැකීම වැඩිදියුණු කරයි. නමුත් ඒ සමග ම, අවදානම් ද ඉහළ යා හැක.

කාන්තාවන්ගේ සහ දරුවන්ගේ කැමැත්තෙන් තොරව ඡායාරූප ගැනීම බරපතළ ගැටලුවක් බව නිගාට් පවසයි. AI චැට්බොට් වෙතින් ප්‍රබල තර්ජනයක් එල්ල විය හැකි බවට ඩිජිටල් අයිතිවාසිකම් විශේෂඥයින් දැනටමත් අනතුරු අඟවා ඇති බව ද ඇය පවසයි.

"ගැටලුව තාක්ෂණය විතරක් නෙවෙයි. ඒ පිටුපස සිටින දේශපාලනය සහ වාණිජ සාධකත් තියෙනවා. ඇමෙරිකා එක්සත් ජනපද සමාගම් ගොඩක් වෙලාවට තමන් කරන හානිය ගැන වගකීම භාර නොගන්න නිසා හානිකර දේවල් කරන්න ඔවුන්ට නිදහස ලැබෙනවා."

නිගාට්ට අනුව මෙය සිදුවන්නේ, වගවීමක් නොමැති නිසා වන අතර Grok වැනි චැට්බොට් පාලනය නොකළහොත්, ඒවා සහ අනෙකුත් චැට්බොට් එකතුවෙන් විශාල ව්‍යසනයක් ඇති කළ හැකි වේ.

'අපයෝජන සිද්ධ වෙන එක Grok සහ Xට නතර කරන්න පුළුවන් වුණත් එයාලා නීතියෙන් ආරක්ෂිතයි'

නීතිය පිළිබඳ මහාචාර්යවරියක වන ක්ලෙයාර් මැක්ග්ලින් පවසන්නේ, X හෝ Grokට "ඔවුන්ට අවශ්‍ය නම් මේ අපයෝජන නවත්වන්න පුළුවන්," නමුත් "නීතියෙන් ආරක්‍ෂිත නිසා," ඒවාට එය ගැටලුවක් නොවන බව ය.

මාස ගණනාවක් තිස්සේ මෙම රූප නිර්මාණය කිරීමට සහ බෙදා හැරීමට වේදිකාව කිසිදු ක්‍රියාමාර්ගයක් නොගෙන ඉඩ දී ඇති බවත්, මේ දක්වා නියාමකයින්ගෙන් කිසිදු අභියෝගයක් එල්ල වී නොමැති බවත් ඇය පැවසීය.

මේ පිළිබඳව සමාජය තුළ ඇති වූ කණසල්ලෙන් පසුව, බ්‍රිතාන්‍යයේ සන්නිව්දන කටයුතු නිරීක්ෂණ ආයතනය වන ඔෆ්කොම් සඳුදා පැවසුවේ එක්සත් රාජධානියේ පරිශීලකයින් ආරක්ෂා කිරීම සඳහා X සහ XAI ගන්නා ලද පියවර කුමක් දැයි සොයා බැලීමට ඔවුන් කඩිනමින් සම්බන්ධ කර ගත් බවයි.

Grok විසින් පරිශීලකයින්ගෙන් ඡායාරූප ගෙන ඒවායේ ඇඳුම් ඉවත් කරනු ලැබීම සම්බන්ධයෙන් වන ගැටලුව පිළිබඳව ද නියාමක කාර්යාලය සොයා බලන බව එහි ප්‍රකාශකයෙක් පැවසීය.

මේ අතර, එවැනි ලිංගිකගත්වය හුවා දක්වන රූප සෑදීම තහනම් කරන මාස හයකට පෙර සම්මත කරන ලද නීතියක් ක්‍රියාත්මක නොකිරීම සහ ක්‍රියාමාර්ග ගැනීම "ප්‍රමාද වීම" පිළිබඳව දේශපාලනඥයෝ සහ කාන්තා අයිතිවාසිකම් ක්‍රියාකාරීහු බ්‍රිතාන්‍ය රජයට චෝදනා එල්ල කළහ.

නව නීති මගින් පුද්ගලයින් නිරුවත් කිරීමේ මෙවලම් තහනම් කරනු ඇති අතර, එවැනි තාක්ෂණයක් සපයන ඕනෑ ම කෙනෙකුට සිර දඬුවම් සහ විශාල දඩ මුදල්වලට මුහුණ දිය හැකි බවට ස්වදේශ කටයුතු කාර්යාලයේ ප්‍රකාශකයෙක් පැවසීය.

මෙම ප්‍රවණතාව හේතුවෙන්, Grok දරුවන්ගේ රූප ලිංගිකත්වය හුවා දැක්වෙන ලෙස සංස්කරණය කිරීමට සහ බෙදා ගැනීමට යොදා ගන්නා බවට එල්ල වන පැමිණිලි ඉතා බැරෑරුම් ලෙස සලකන බව යුරෝපීය කොමිසම සඳුදා ප්‍රකාශ කළේ ය.

යුරෝපීය කොමිසමේ ප්‍රකාශක තෝමස් රෙනියර්, Grokහි පළ කිරීම් නීති විරෝධී, කම්පනසහගත සහ පිළිකුල්සහගත ලෙස හැඳින්වීය.

මේ අතර ප්‍රංශය, මැලේසියාව සහ අනෙකුත් රටවල බලධාරීන් ද මේ සම්බන්ධයෙන් සිය කණස්සල්ල පළ කර ඇත.

'අසභ්‍ය සහ පිළිකුල්සහගත' අන්තර්ගතයන් සෑදීම සහ බෙදා ගැනීම සම්බන්ධයෙන් ඉන්දීය රජය X සමාගමට නිලවශයෙන් දැනුම් දීමක් ද සිදු කර තිබේ.

එරට තොරතුරු තාක්ෂණ අමාත්‍යංශය විසින් යවන ලද එම ලිපියේ සඳහන් වන්නේ "X වේදිකාවට සම්බන්ධ Grok AI මෙවලම පරිශීලකයින් අවභාවිත කරන බව නිරීක්ෂණය වනවා. පරිශීලකයින් ව්‍යාජ ගිණුම් නිර්මාණය කර, කාන්තාවන් සම්බන්ධ අසැබි රූප හෝ වීඩියෝ ඔවුන්ගේ කීර්ති නාමයට හානි කිරීම සඳහා සාදනවා," යනුවෙනි.

මේ සම්බන්ධයෙන් වහා ම පියවර ගෙන රජයට වාර්තාවක් ඉදිරිපත් කරන ලෙස අමාත්‍යංශය ඉන්දියාවේ පිහිටි X සමාගමේ ශාඛාවට නියෝග කර තිබේ.

එසේ තිබියදීත්, ඇතැම් කාන්තාවෝ තවමත් ඔවුන්ගේ ඡායාරූප පළ කර, උදාහරණයක් ලෙස එයට සිනහවක් එක් කිරීමට හෝ කරාබු දමන්නැයි Grok වෙතින් ඉල්ලා සිටිති.

තවත් කාන්තාවක් ග්‍රෝක්ගෙන් ඇගේ බයිසෙප්ස් විශාල කර දෙන ලෙස ඉල්ලා සිටියා ය.

Grok එම ඉල්ලීම ඉටු කරන බවක් පෙනෙන්නට විය.