ChatGPT მწარმოებელს OpenAI-ს აქვს უფასო ინსტრუმენტი, რომელსაც შეუძლია შეამჩნიოს AI-ით დაწერილი ტექსტი

OpenAI გთავაზობთ უფასო, მაგრამ „არასრულყოფილ“ ინსტრუმენტს ხელოვნური ინტელექტის მიერ გენერირებული ტექსტის გამოსავლენად და იმედოვნებს, რომ ეს გამოიწვევს დებატებს AI წიგნიერების შესახებ.

ChatGPT-ის შემქმნელმა OpenAI-მ გამოუშვა "კლასიფიკატორი" ინსტრუმენტი, რომელსაც შეუძლია AI-ით დაწერილი ტექსტის ამოცნობა, მაგრამ აღნიშნავს, რომ მას არ უნდა დაეყრდნოთ.

მოთხოვნათა ფართო სპექტრი ChatGPT-ს შეუძლია შექმნას პასუხები, რაზეც შეაშფოთა მასწავლებლები, რადგან ზოგიერთი სტუდენტი იწყებს ხელოვნური ინტელექტის მიერ გენერირებული ესეების და საშინაო დავალებების საკუთარ ნამუშევრებად გადაცემას.

განათლება არის ერთ-ერთი სფერო, რომელსაც შეუძლია ისარგებლოს OpenAI-ის ახალი კლასიფიკატორით ხელოვნური ინტელექტის მიერ გენერირებული ესეებისა და საშინაო დავალების გამოვლენის ავტომატიზირებით. მან შეიძლება დაუშვას განსხვავებული პასუხი, ვიდრე ვთქვათ, შეზღუდოს მისი გამოყენება, როგორც ამას ახლახან გააკეთეს ნიუ-იორკის სკოლები. ავსტრალიის მასშტაბით სკოლის განყოფილებებმა აკრძალეს ChatGPT.

კლასიფიკატორი ასევე შეიძლება დაეხმაროს კომპანიებს, როგორიცაა დეველოპერის კითხვა-პასუხის საიტი, Stack Overflow, რომელმაც აკრძალა ChatGPT პასუხები მას შემდეგ, რაც მისი მოდერატორები დატბორილია ზოგჯერ სწორი გადაწყვეტილებებით.

მიუხედავად იმისა, რომ კლასიფიკატორს შეუძლია აღმოფხვრას გარკვეული სამუშაოების აღმოფხვრა, OpenAI ამბობს, რომ შეუძლებელია AI-ით დაწერილი ტექსტის საიმედოდ აღმოჩენა და არსებობს მთელი რიგი შეზღუდვები, რომლებიც გავლენას ახდენენ მის ეფექტურობაზე.

კლასიფიკატორი სწორად განსაზღვრავს AI-ით დაწერილი ტექსტის 26%-ს, როგორც "სავარაუდოდ AI-დაწერილი" - მისი ნამდვილი დადებითი მაჩვენებელი. ის არასწორად განსაზღვრავს ადამიანის მიერ დაწერილ ტექსტს, როგორც AI-ით დაწერილი დროის 9%-ში - მისი ცრუ დადებითი. სხვა სიტყვებით რომ ვთქვათ, არსებობს საკმაოდ მაღალი შანსი, რომ მან ვერ აღმოაჩინოს ტექსტი, რომელიც წარდგენილია ადამიანის მიერ, რომელიც არ ამჟღავნებს, რომ ის დაწერილია ხელოვნური ინტელექტის მიერ და გარკვეული შანსია, რომ ტექსტს ორივე მხრიდან არასწორ ეტიკეტირება მოახდინოს. მაგრამ ის ამტკიცებს, რომ კლასიფიკატორი "მნიშვნელოვნად უფრო სანდოა ტექსტზე უახლესი AI სისტემებიდან", ვიდრე მისი წინა დეტექტორი GPT-2-ზე დაფუძნებული.

”ჩვენ ვაკეთებთ ამ კლასიფიკატორს საჯაროდ, რათა მივიღოთ გამოხმაურება იმის შესახებ, არის თუ არა სასარგებლო მსგავსი არასრულყოფილი ხელსაწყოები”, - თქვა OpenAI-მ პრესრელიზში და დასძინა, რომ იმედოვნებს, რომ ინსტრუმენტი ”აიწვევს დისკუსიებს AI წიგნიერების შესახებ”.

უფასო ვებ კლასიფიკატორის ინსტრუმენტი ხელმისაწვდომია აქ. მის გამოსაყენებლად, მომხმარებლებმა უნდა დააკოპირონ და ჩასვან ტექსტის ნაწილი ტექსტურ ველში და შემდეგ დააჭირონ გაგზავნას. ის შეაფასებს ტექსტს, როგორც "ძალიან ნაკლებად სავარაუდოა", "ნაკლებად სავარაუდოა", "გაურკვეველია, არის თუ არა", "შესაძლოა" ან "სავარაუდო" AI-ით გენერირებული.

კლასიფიკატორს სჭირდება მინიმუმ 1000 სიმბოლო - დაახლოებით 150-დან 250 სიტყვამდე - ტექსტის გასაანალიზებლად. OpenAI აფრთხილებს, რომ ადვილია ხელოვნური ინტელექტის მიერ გენერირებული ტექსტის რედაქტირება, რათა თავიდან იქნას აცილებული გამოვლენის პროგრამები. ასევე, ხელსაწყო უფრო სავარაუდოა, რომ შეცდომით მოათავსოს ბავშვების მიერ დაწერილი ტექსტი და არაინგლისური ტექსტი, რადგან ის ძირითადად მომზადებული იყო უფროსების მიერ დაწერილ ინგლისურ შინაარსზე.

გარდა ამისა, OpenAI ამბობს, რომ მას "საფუძვლიანად არ შეუფასებია კლასიფიკატორის ეფექტურობა ადამიანის ავტორებთან თანამშრომლობით დაწერილი შინაარსის გამოვლენაში".

მასში ნათქვამია, რომ ინსტრუმენტი „არ უნდა იყოს გამოყენებული, როგორც გადაწყვეტილების მიღების პირველადი ინსტრუმენტი“, არამედ როგორც ტექსტის ნაწილის წყაროს განსაზღვრის სხვა მეთოდების დამატება.