කෘත්‍රිම බුද්ධි චැට් බොට් පද්ධති සංවේදී දත්ත කාන්දු කළ හැකි කේත ලියයි

Vishwa Alert Service: Join Our Vishwa Magazine Group to get top quality service and be aware of the unknowns of the daily world.

පර්යේෂකයන් පිරිසක් Chat GPT සහ තවත් වාණිජමය පහසුකම් සපයා දෙන කෘත්‍රිම බුද්ධි යෙදවුම් පහක් ආධාරයෙන් මාර්ගගත දත්ත පද්ධතිවලින් සංවේදී දත්ත පිටතට කාන්දු කිරීමට මෙන් ම මකා දැමීමට සහ විනාශයට පත් කළ හැකි හානිකර ඇල්ගොරිතමයක් කේතනය කර තිබෙනවා.

ඔවුන් මේ බව අදාළ යෙදවුම් තැනූ වගකිවයුතු සමාගම් වෙත දැනුම් දී ඇති අතර ඇතැම් සමාගම් ඒ බව පිළිගෙන එවැනි හානිකර කේත ලිවිය නො හැකි වන සේ පිළියම් යොදා තිබෙනවා.

මේ අධ්‍යයනයේ සම කර්තෘවරයෙකු වූ එක්සත් රාජධානියේ Sheffield විශ්වවිද්‍යාලයේ Xutan Peng සඳහන් කරන්නේ එය මාර්ගගත දත්ත ගබඩා වෙත ප්‍රහාර නිකුත් කළ හැකි පරිදි යොදාගත හැකි මෙවලමක් ලෙස විසල් භාෂා මොඩලවල දුර්වලතා භාවිතයට ගැනීම නිරූපණය කළ පළමු අධ්‍යයනය බවයි.

Peng සහ ඔහුගේ කණ්ඩායම මිනිසාගේ අවශ්‍යතාව පරිදි SQL කේත ලිවිය හැකි කෘත්‍රිම බුද්ධී සේවා හයක් මේ අධ්‍යයනය සඳහා යොදාගත්තා. මෙහි දී පර්යේෂකයන්ට පෙනී ගොස් තිබුණේ එම කේත ඔස්සේ සයිබර් ප්‍රහාරවලට අත වනමින් දත්තගබඩා තොරතුරු පිටතට කාන්දු කළ හැකි උපදෙස් ද අඩංගු කළ හැකි බවයි. ඔවුන් සිය අධ්‍යයනයේ තොරතුරු පසුගිය දා ඉතාලියේ ෆ්ලෝරන්ස්හි පැවැති 34 වන IEEE International Symposium on Software Reliability Engineering සම්මේලනයේ දී ප්‍රසිද්ධියට පත් කළා.

Open AIහි Chat GPT අධ්‍යයනයට බඳුන් කරන විට ඔවුන්ට පෙනී ගොස් තිබුණේ ඉන් උත්පාදනය වන SQL කේත දත්ත ගබඩාවලට හානි සිදු කිරීමට සමත් බවයි. අහිංසක අරමුණක් ඇති ව ඉන් උත්පාදනය කරගන්නා කේතයක් භාවිතයෙන් දත්ත ගබඩාවක ඇති තොරතුරු වෙත ප්‍රවේශ වීමට උත්සාහ දරන විට පවා දත්ත ගබඩාවට හානි සිදු විය හැකි බව මෙහි දී සොයා ගැනුණා. පෙන්ග් පවසන්නේ එසේ උත්පාදනය වන කේතය හානි දායක ලෙස බලපැවැත්විය හැකි වුවත් ඒ පිළිබඳ පූර්ව අනතුරු ඇඟවීමක් හෝ Chat GPT මඟින් ප්‍රදර්ශනය නො කළ බවයි.

පර්යේෂකයන් ඔවුන්ගේ සොයාගැනීම් Open AI වෙත දැනුම් දී තිබුණා. ඉන් පසු ව කළ පරීක්ෂණවලින් ඒ දුර්වලතා නිවැරැදි කරගෙන ඇති බව පෙනී ගොස් තිබුණා.

ඔවුන්ගේ අධ්‍යයනයට බඳුන් වූ තවත් යෙදවුමක් වූයේ Baidu-UNIT බුද්ධිමය සංවාද වේදිකාවයි. චීන බසින් ලියන ඉල්ලීම්වලට අනුව SQL කේත ලිවීමට එය සමත්. එයින් ද පෙර කී හානිකර කේත ලියැවෙන බව ඔවුන් සොයාගත්තා. එය දැනුම් දුන් පසු සිය වරද නිවැරැදි කරගත් චීන තාක්ෂණික යෝධයෙකු වන Baidu සමාගම තම අඩුපාඩුවක් පෙන්වා දීම ගැන කෘතවේදී වෙමින් පර්යේෂකයන් වෙත මුදල් ත්‍යාගයක් ද පිළිගන්වා තිබෙනවා.

New Scientist ඇසුරෙනි.

සෞන්දර්ය සෙනරත්

Join our Whatsapp Group To get latest updates and superior service ✅