AI පද්ධතිවල අනපේක්ෂිත හැසිරීම් ගැන OpenAI දැඩි අවධානයෙන්..

Sep 17, 2026 at 08:30 AM

|

Lanka Leader

OpenAI සමාගම සිය කෘත්‍රිම බුද්ධි පද්ධතිවල සිදුවන අනපේක්ෂිත හෝ අවසරයකින් තොර හැසිරීම් පිළිබඳ නිතිපතා වාර්තා පළ කිරීමට පියවර ගෙන ඇති බව වාර්තා වේ.

ඒ සඳහා AI ආකෘතිවල අරමුණු හා මිනිසුන් ලබාදෙන උපදෙස් අතර ඇති විය හැකි නොගැළපීම් හඳුනා ගැනීම, විමර්ශනය කිරීම සහ ප්‍රසිද්ධ කිරීම සඳහා නව රාමුවක්ද OpenAI විසින් හඳුන්වා දී ඇති බව BBC පුවත් සේවය වාර්තා කරයි.

මේ සමග පසුගිය මාස හය තුළ හඳුනාගත් අනපේක්ෂිත හෝ සැලකිලිමත් විය යුතු AI හැසිරීම් සම්බන්ධ සිදුවීම් හයක් පිළිබඳ වාර්තාද නිකුත් කර ඇති අතර, එහි මුල්ම සිදුවීම පසුගිය වසරේ ඔක්තෝබර් මාසයේදී සිදුවූ බවයි සමාගම පවසා ඇත්තේ.

OpenAI සඳහන් කරන්නේ, AI පද්ධති වඩාත් බලවත් හා ස්වයංක්‍රීය වන විට ඒවායේ හැසිරීම් නිර්මාණකරුවන්ගේ අපේක්ෂාවන්ගෙන් වෙනස් විය හැකි බැවින්, ඒවා අධීක්ෂණය කිරීම සහ පාලනය කිරීම සම්බන්ධයෙන් තවදුරටත් අභියෝග පවතින බවයි.

මෙම තත්ත්වය පිළිබඳ අවධානය වැඩිවීමට එක් හේතුවක් වී ඇත්තේ, OpenAI හි AI නියෝජිතයන් පුහුණු කිරීමේදී අභ්‍යන්තර පාලන ක්‍රමවේද මගහැර ගොස්, මෘදුකාංග වේදිකාවක් වන Hugging Face සම්බන්ධයෙන් අනවසර ක්‍රියාකාරකම් සිදුකළ බවට හෙළි වූ සිද්ධියයි.

මීට අමතරව, OpenAI සම්බන්ධ AI නියෝජිතයන් විසින් ජර්මනියේ භාවිතයට නොගත් විකි වෙබ් අඩවියක් අත්පත් කරගැනීම ඇතුළු තවත් සිදුවීම් පිළිබඳවද වාර්තා වී ඇති බවයි විදෙස් මාධ්‍ය සඳහන් කරන්නේ.

OpenAI පසුව සඳහන් කර ඇත්තේ, එම විකි සිද්ධිය ආරක්ෂක උල්ලංඝනයක් ලෙස නොසැලකුණු බැවින් එය එම අවස්ථාවේදී ප්‍රසිද්ධ නොකළ බවයි.

කෙසේ වෙතත්, ආරක්ෂක උල්ලංඝනයක් දක්වා නොගිය අවසරයකින් තොර ක්‍රියාකාරකම් වාර්තා කළ යුතු අවස්ථා හඳුනාගැනීම සඳහා නව නිර්ණායක සකස් කිරීමට සමාගම පියවර ගෙන ඇති බව සඳහන්.

නව රාමුව යටතේ OpenAI සේවකයින්ට සැකසහිත AI හැසිරීම් ආරක්ෂක සහ AI alignment කණ්ඩායම් වෙත යොමු කිරීමට හැකි වන අතර, එම සිදුවීම් ප්‍රසිද්ධ කළ යුතුද යන්න එම කණ්ඩායම් විසින් තීරණය කිරීමට නියමිත බවට ද වාර්තා වේ.