OpenAI-ის ახალ ინსტრუმენტს შეუძლია აღმოაჩინოს საკუთარი DALL-E 3 AI სურათები, მაგრამ არის დაჭერა

ინსტრუმენტმა მოახერხა მისი DALL-E 3 გენერატორის მიერ შექმნილი სურათების 98%-ის იდენტიფიცირება, თუმცა, ეს პროცენტი შემცირდა სურათების მოდიფიცირების შემთხვევაში.

ხელოვნური ინტელექტის მიერ გენერირებული სურათები შეიძლება გამოყენებულ იქნას იმისთვის, რომ მოგატყუოთ ყალბი შინაარსის სინამდვილე. როგორც ასეთი, ChatGPT დეველოპერმა OpenAI-მ შეიმუშავა ინსტრუმენტი, რომელიც მიზნად ისახავს იწინასწარმეტყველოს, შეიქმნა თუ არა სურათი საკუთარი DALL-E 3 გამოსახულების გენერატორის გამოყენებით. თუმცა, გამოსახულების აღმოჩენის კლასიფიკატორის წარმატების მაჩვენებელი დამოკიდებულია იმაზე, იყო თუ არა და როგორ შეიცვალა სურათი.

სამშაბათს, OpenAI-მ ტესტერების პირველ ჯგუფს მისცა წვდომა გამოსახულების აღმოჩენის ახალ ინსტრუმენტზე. მიზანია გამოიყენონ დამოუკიდებელი მკვლევარები, რათა შეაფასონ ინსტრუმენტის ეფექტურობა, გააანალიზონ მისი სარგებლიანობა რეალურ სამყაროში, დაადგინონ, თუ როგორ შეიძლება მისი გამოყენება და დაათვალიერონ ის ფაქტორები, რომლებიც განსაზღვრავენ ხელოვნური ინტელექტის გამომუშავებულ შინაარსს. დაინტერესებულ მკვლევარებს შეუძლიათ მიმართონ წვდომისთვის DALL-E Detection Classifier Access Program ვებ-გვერდზე.

OpenAI ახორციელებს ინსტრუმენტს შიდა ტესტირებას და აქამდე შედეგები გარკვეულწილად იმედისმომცემი იყო, ზოგიერთში კი იმედგაცრუებული. DALL-E 3-ის მიერ გენერირებული სურათების გაანალიზებისას, ხელსაწყო მათ სწორად ამოიცნობს შემთხვევების დაახლოებით 98%-ში. გარდა ამისა, სურათების გაანალიზებისას, რომლებიც არ იყო შექმნილი DALL-E 3-ის მიერ, ინსტრუმენტმა არასწორად აჩვენა ისინი DALL-E 3-ის მიერ შექმნილი შემთხვევების მხოლოდ 0,5%-ში.

სურათზე მცირე მოდიფიკაციებმა ასევე მცირე გავლენა მოახდინა, OpenAI-ის თანახმად. შიდა ტესტერებმა შეძლეს შეკუმშვა, ამოჭრა და გაჯერების ცვლილებების გამოყენება DALL-E 3-ის მიერ შექმნილ სურათზე და ხელსაწყო აჩვენა უფრო დაბალი, მაგრამ მაინც შედარებით მაღალი წარმატების მაჩვენებელი. ჯერჯერობით კარგია.

სამწუხაროდ, ხელსაწყო არ იყო კარგად იმ სურათებთან, რომლებმაც განიცადეს უფრო ფართო ცვლილებები. თავის ბლოგ პოსტში, OpenAI-მ არ გამოავლინა წარმატების მაჩვენებელი ამ შემთხვევებში, გარდა იმისა, რომ უბრალოდ თქვა, რომ "სხვა მოდიფიკაციამ შეიძლება შეამციროს შესრულება."

ინსტრუმენტის ეფექტურობა დაეცა ისეთ პირობებში, როგორიცაა გამოსახულების ფერის შეცვლა, განუცხადა OpenAI-ს მკვლევარმა სანდინ აგარვალმა The Wall Street Journal-ს (გამოწერა აუცილებელია). OpenAI იმედოვნებს, რომ მოაგვარებს ამ ტიპის პრობლემებს გარე ტესტერებისთვის ხელსაწყოზე წვდომის მინიჭებით, დასძინა აგარვალმა.

შიდა ტესტირება ასევე დაუპირისპირდა ინსტრუმენტს სხვა კომპანიების ხელოვნური ინტელექტის მოდელების გამოყენებით შექმნილი სურათების ანალიზისთვის. ამ შემთხვევებში, OpenAI-ის ინსტრუმენტმა შეძლო ამ გარე მოდელების სურათების მხოლოდ 5%-დან 10%-მდე ამოცნობა. ასეთ სურათებზე ცვლილებების შეტანამ, როგორიცაა ფერის შეცვლა, ასევე გამოიწვია ეფექტურობის მკვეთრი ვარდნა, განუცხადა აგარვალმა ჟურნალს. ეს არის კიდევ ერთი შეზღუდვა, რომელსაც OpenAI იმედოვნებს გამოასწორებს შემდგომი ტესტირებით.

ერთი პლუსი OpenAI-ის აღმოჩენის ხელსაწყოსთვის - ის არ ეყრდნობა წყლის ნიშანს. სხვა კომპანიები იყენებენ ჭვირნიშნებს, რათა მიუთითონ, რომ გამოსახულება გენერირებულია საკუთარი AI ინსტრუმენტებით, მაგრამ მათი ამოღება საკმაოდ მარტივად შეიძლება, რაც მათ არაეფექტურს ხდის.

AI-ს მიერ შექმნილი სურათები განსაკუთრებით პრობლემურია საარჩევნო წელს. მტრულ პარტიებს, როგორც ქვეყნის შიგნით, ისე მის ფარგლებს გარეთ, შეუძლიათ ადვილად გამოიყენონ ასეთი გამოსახულებები პოლიტიკური კანდიდატების ან მიზეზების ნეგატიურად დახატვისთვის. ხელოვნური ინტელექტის გამოსახულების გენერატორებში მიმდინარე მიღწევების გათვალისწინებით, იმის გარკვევა, თუ რა არის რეალური და რა არის ყალბი, სულ უფრო და უფრო გამოწვევა ხდება.

ამ საფრთხის გათვალისწინებით, OpenAI-მ და Microsoft-მა წამოიწყეს 2 მილიონი დოლარის სოციალური მდგრადობის ფონდი, რათა გააფართოვონ ხელოვნური ინტელექტის განათლება და წიგნიერება ამომრჩევლებსა და დაუცველ თემებში. იმის გათვალისწინებით, რომ 2 მილიარდმა ადამიანმა მთელს მსოფლიოში უკვე მისცა ხმა ან მიიღებს ხმას წელს დემოკრატიულ არჩევნებში, მიზანია უზრუნველყოს, რომ ინდივიდებმა უკეთ შეძლონ ციფრული ინფორმაციის ნავიგაცია და სანდო რესურსების პოვნა.

OpenAI-მ ასევე თქვა, რომ ის უერთდება C2PA-ს (კონტენტის წარმოშობისა და ავთენტურობის კოალიცია) მმართველ კომიტეტს. გამოიყენება როგორც მტკიცებულება იმისა, რომ კონტენტი მოვიდა კონკრეტული წყაროდან, C2PA არის ციფრული შინაარსის სერტიფიცირების სტანდარტი, მიღებული პროგრამული უზრუნველყოფის პროვაიდერების, კამერის მწარმოებლების და ონლაინ პლატფორმების მიერ. OpenAI ამბობს, რომ C2PA მეტამონაცემები შედის DALL-E 3-ში და ChatGPT-ში შექმნილ და რედაქტირებულ ყველა სურათში და მალე გამოჩნდება OpenAI-ის Sora ვიდეო გენერატორის მიერ შექმნილ ვიდეოებში.