Gemini AI დაიჭირეს Google Drive დოკუმენტების სკანირება მომხმარებლების ნებართვის გარეშე

Google-ის შიდა ხელოვნური ინტელექტის სერვისი, ტყუპები AI, აშკარად კითხულობს კერძო Google Drive დოკუმენტებს მომხმარებლის აშკარა ნებართვის მიღების გარეშე, AI მმართველობის უფროსი მრჩევლისა და X მომხმარებლის კევინ ბანკსტერის (Tom's Hardware- ის საშუალებით) მიერ გაკეთებული შოკისმომგვრელი გამოცხადების თანახმად.

განახლებულია Google-ის პასუხით:

Google- მა უარყო ასეთი პრეტენზიები. Google- ის სპიკერმა მიაღწია techworm- ს და თქვა:

"ჩვენი გენეტიკური AI ფუნქციები შექმნილია იმისთვის, რომ მომხმარებლებმა აირჩიონ და გააკონტროლონ თავიანთი მონაცემები. ტყუპების გამოყენება Google Workspace- ში მოითხოვს მომხმარებელს პროაქტიულად ჩართოს იგი და როდესაც ისინი თავიანთ შინაარსს აკეთებენ, გამოიყენება კონფიდენციალურობის შენარჩუნების გზით, რათა შექმნან სასარგებლო პასუხები მათ მოთხოვნებზე, მაგრამ სხვაგვარად არ ინახება ნებართვის გარეშე. ”

"ამ შემთხვევაში, ჟღერს, რომ მომხმარებელი ადრე იყენებდა ტყუპებს Google Drive- ის გვერდითი პანელის საშუალებით PDF- ებისთვის და სურდა ამის გაკეთება, რაც უბრალოდ შეიძლება გაკეთდეს გვერდითი პანელის დახურვით."

მომხმარებლის პრეტენზიები Google- ის კომენტარამდე ქვემოთაა:

კევინმა თქვა, რომ Google Docs- ში საგადასახადო დეკლარაციის დოკუმენტის PDF- ის გახსნის შემდეგ, ტყუპების AI- მ დაუყოვნებლივ მიაწოდა გადასახადების შეჯამება ყოველგვარი ინფორმაციის მიწოდების გარეშე ან AI- ს ამის გაკეთება სთხოვა.

შემდგომი გამოძიებისას დადგინდა, რომ საკითხი მხოლოდ PDF-ებზე აისახა.

მიუხედავად იმისა, რომ კონფიდენციალურობის პარამეტრები, რომლებიც გამოიყენება ტყუპების ინფორმირების მიზნით, საჯაროდ უნდა ყოფილიყო ხელმისაწვდომი, ისინი არ იყვნენ.

კევინმა საბოლოოდ შეძლო სწორი პარამეტრის პოვნა სხვა X მომხმარებლის დახმარებით, მხოლოდ მისი გაკვირვებით, რომ ვარიანტი უკვე გამორთულია Gmail, Google Docs და Google Drive- ისთვის.

ეს იმას ნიშნავდა, რომ ტყუპების AI არ უნდა იყოს წვდომა დოკუმენტებზე Gmail, Google Docs და Google Drive- ში და შეაჯამოს ისინი.

ასევე, პარამეტრების შეცვლა სრულიად განსხვავებულ ადგილას იყო, ვიდრე იქ, სადაც ტყუპების ბოტი თავდაპირველად ხელმძღვანელობდა მას.

"AI ან "ჰალუცინაცია (ცრუობს)" ან Google- ის სერვერებზე ზოგიერთი შიდა სისტემა აშკარა გაუმართაობაა. ასეა თუ ისე, არ არის შესანიშნავი სახე, მაშინაც კი, თუ ეს პირადი მონაცემები სავარაუდოდ არ გამოიყენება ტყუპების AI- ის მოსამზადებლად ", - დაწერა კევინმა AI ასისტენტთან გასაკვირი ურთიერთქმედების შესახებ მის X ანგარიშზე.

კევინი თვლის, რომ პრობლემა შეიძლება გამოწვეული იყოს Google Workspace Labs- ის ჩართვის გამო, რომელიც მან 2023 წელს დაარეგისტრირა, რაც შეიძლება გადალახოს Gemini AI- ის მიზნობრივ პარამეტრებზე.

ამასთან, შემდგომ ტვიტერში მან გააზიარა, თუ როგორ უნდა გამორთოთ ტყუპები Google Drive- ზე მონაცემების წაკითხვისგან ტყუპების გაფართოებების გადართვით.

Google აღნიშნავს ბლოგის პოსტში, თუ როგორ იცავენ ისინი Google სამუშაო სივრცის მონაცემებს გენეტიკური ეპოქის ეპოქაში.

ისინი არ იყენებენ Workspace-ის მონაცემებს ძირითადი გენეტიკური AI და დიდი ენის მოდელების მოსამზადებლად ან გასაუმჯობესებლად, რომლებიც ბარდს [ახლა ტყუპებს], ძიებას და სხვა სისტემებს სამუშაო სივრცის გარეთ ნებართვის გარეშე იყენებენ.