AI Chatbots ჯერ კიდევ ცუდია ფაქტებზე, ამბობს BBC კვლევა

BBC- ს ბოლოდროინდელმა კვლევამ აღმოაჩინა ძირითადი უზუსტობა AI- ს ასისტენტების მიერ მოწოდებულ ახალ ამბებში. მკვლევარებმა შეამოწმეს ოთხი ცნობილი AI ასისტენტი - ChatGPT, Copilot, Gemini და Perplexity - მათ საშუალება მისცეს გამოიყენონ BBC ვებსაიტი მათი პასუხებისთვის.

კვლევამ აჩვენა, რომ ეს პოპულარული ხელოვნური ინტელექტის თანაშემწეები ხშირად არასწორ ინფორმაციას ავრცელებდნენ და ფაქტებს ამახინჯებდნენ მათ პასუხებში. 100 კითხვის ნაკრები AI ასისტენტებს დაუსვეს სხვადასხვა ტენდენციური ახალი ამბების თემების შესახებ. BBC-ის ჟურნალისტებმა შვიდი კრიტერიუმიდან გამომდინარე შეფასება შეაფასეს: სიზუსტე, სათანადო წყაროების მიცემა, მიუკერძოებლობა, აზრისა და ფაქტის გარჩევა, პირადი შეხედულებების თავიდან აცილება, კონტექსტის მიწოდება და მათ შორის BBC კონტენტი სათანადოდ.

შეფასების შედეგად დადგინდა, რომ პასუხების ნახევარზე მეტს (51%) მნიშვნელოვანი პრობლემები ჰქონდა ამ სფეროებში. გარდა ამისა, პასუხების 91% -ს ჰქონდა მინიმუმ გარკვეული უზუსტობა. რაღაც ახალი ამბებით, ცოტა არასწორიც კი არის დიდი საქმე.

ბევრი შეცდომა არასწორი ფაქტებით იყო გამოწვეული. პასუხების დაახლოებით 19%, რომლებიც BBC შინაარსს ახსენებდა, მოიცავდა შეცდომებს, როგორიცაა არასწორი განცხადებები, რიცხვები ან თარიღები. ასევე, BBC სტატიებიდან ციტატების 13% ან შეიცვალა ან არ მოვიდა ორიგინალური წყაროდან. ზოგიერთი მაგალითი მოიცავს AI ასისტენტებს, რომლებიც არასწორად აცხადებენ ყოფილი პოლიტიკოსების სტატუსს, NHS რჩევების არასწორად წარმოდგენას ვაპინგის შესახებ და ახლო აღმოსავლეთში კონფლიქტების არასწორად მოხსენებას.

კვლევაში ყურადღება გამახვილდა იმაზე, თუ როგორ გამოიყენეს წყაროები და მოცემული კონტექსტი. AI ასისტენტებმა ხშირად შეარჩიეს ძველი სტატიები ან მიმდინარე ვებ გვერდები, როგორც მათი წყაროები, რამაც გამოიწვია გარკვეული უზუსტობა. ზოგჯერ, ინფორმაცია სწორი იყო, მაგრამ არასწორად იყო დაკრედიტებული BBC- ში. უფრო მეტიც, AI არ იძლევა საკმარის კონტექსტს მის პასუხებში, რამაც გამოიწვია გაუგებრობები.

როგორც ჩანს, AI- ს უჭირდა აზრსა და ფაქტს შორის განსხვავების თქმა. ამან გამოიწვია ის, რომ ხშირად მოსაზრებებს ფაქტებად ეპყრობოდა და ის ხშირად ტოვებდა მნიშვნელოვან კონტექსტს, რის შედეგადაც მიკერძოებული ან არასრული პასუხები მოჰყვა.

ყველაზე საინტერესოა კვლევამ აჩვენა, რომ სხვადასხვა AI ასისტენტებს განსხვავებული პრობლემები აქვთ. მაგალითად, ტყუპებს ყველაზე მეტი პრობლემა ჰქონდა სიზუსტესთან დაკავშირებით და ასევე იბრძოდნენ საიმედო წყაროების მიწოდებაში. როგორც Copilot- ს, ასევე Perplexity- ს ჰქონდა სირთულეები, რომლებიც ზუსტად წარმოადგენდნენ BBC შინაარსს. ეს უნებლიედ ადასტურებს, რომ სხვადასხვა კომპანიის AI არ არის ურთიერთშემცვლელი და ერთის ხარისხი შეიძლება სხვებზე უკეთესი იყოს - მაგრამ ისინი ჯერ კიდევ არ არიან ისეთი კარგი, როგორც ადამიანები.

ერთი დიდი თემა, რომელიც კვლევაში აღიზარდა, იყო დიდი შეშფოთება იმის შესახებ, თუ რამდენად ადვილად შეიძლება გავრცელდეს ეს არასწორი ინფორმაცია სოციალურ მედიაში. BBC-ის კვლევამ აჩვენა, რომ AI-ის ასისტენტები ახლა არ არიან სანდო ახალი ამბების ზუსტი ანგარიშგებისთვის. მიუხედავად იმისა, რომ ბევრი მათგანი აფრთხილებს მომხმარებლებს, რომ შეიძლება იყოს შეცდომები, შეცდომების გამოსწორების სისტემა არ არსებობს, როგორც ამას ტრადიციული საინფორმაციო საშუალებები აკეთებენ.

BBC მოუწოდებს უფრო მეტ კონტროლს იმის შესახებ, თუ როგორ იყენებენ AI კომპანიები თავიანთ შინაარსს, მეტ გამჭვირვალობას იმის შესახებ, თუ როგორ მუშაობს AI და უკეთ გაიგოს უზუსტობები, რაც შეიძლება მოხდეს. BBC გეგმავს მომავალში გაიმეოროს ეს კვლევა, რათა დაინახოს, გაუმჯობესდება თუ არა ყველაფერი და ასევე შეიძლება შეიცავდეს სხვა გამომცემლებსა და მედია ორგანიზაციებს მათ კვლევაში.

წყარო: BBC