რას ნიშნავს გრძელი კონტექსტური ფანჯარა AI მოდელისთვის, როგორიცაა Gemini?
თუ თქვენ იცნობთ ხელოვნური ინტელექტის მოდელებსა და ჩატბოტებს, ალბათ გსმენიათ, რომ ტერმინი „კონტექსტი“ სხვაგვარად გამოიყენება, ვიდრე ჩვეულები ხართ. აი რას ნიშნავს ეს.
Google-მა ახლახან გამოაცხადა, რომ განაახლებს თავის Gemini Advanced სერვისს ერთი მილიონი კონტექსტური მოდელით, მალე ორ მილიონამდე გადახტომა.
წარმოიდგინეთ, უყურადღებოდ უყურებთ სერიალს, მაგრამ მხოლოდ ერთი ეპიზოდის გახსენება შეგიძლიათ. როდესაც გადადიხართ შემდეგ ეპიზოდზე, მაშინვე დაივიწყებთ ყველაფერს, რასაც ახლახან უყურეთ. ახლა, წარმოიდგინეთ, შეგიძლიათ დაიმახსოვროთ ყველა ეპიზოდი და ყველა სეზონი, რომელსაც უყურეთ ამ სატელევიზიო შოუდან; ეს საშუალებას მოგცემთ გაიგოთ ამბავი, პერსონაჟები და გადახვევები.
ხელოვნური ინტელექტის (AI) მოდელების განხილვისას, შესაძლებლობა დაიმახსოვროთ მხოლოდ ერთი ეპიზოდი ერთდროულად და აიძულოთ ის დაივიწყოთ შემდეგ ეპიზოდზე გადასვლისას წარმოადგენს მოკლე კონტექსტურ ფანჯარას. სერიის ყველა ეპიზოდის დამახსოვრება წარმოადგენს AI მოდელს დიდი კონტექსტით -- ან გრძელი კონტექსტური ფანჯრით.
მოკლედ, გრძელი კონტექსტური ფანჯარა ნიშნავს, რომ მოდელს შეუძლია ერთდროულად დაიმახსოვროს ბევრი ინფორმაცია.
იმის ცოდნა, თუ რა კონტექსტს წარმოადგენს AI-ში, აუცილებელია მეტი გაიგოთ გრძელი კონტექსტური ფანჯრის შესახებ და როგორ მოქმედებს იგი ბოტის ან სხვა სისტემის მუშაობაზე.
AI სისტემები, როგორიცაა ChatGPT, Gemini chatbot და Microsoft Copilot, აგებულია AI მოდელებზე, ამ შემთხვევაში, GPT-3.5, Gemini და GPT-4, შესაბამისად. ეს მოდელები არსებითად მუშაობს როგორც სისტემის ტვინი, ინახავს ცოდნას, ახსოვს ინფორმაცია საუბრისას და სათანადოდ პასუხობს მომხმარებლების შეკითხვებს.
AI-ში კონტექსტი ეხება ინფორმაციას, რომელიც ანიჭებს მნიშვნელობას და შესაბამისობას იმ მიმდინარე მონაცემებთან, რომელსაც AI ამუშავებს. ეს არის ინფორმაცია, რომელსაც მოდელი ითვალისწინებს გადაწყვეტილების მიღებისას ან პასუხის წარმოქმნისას.
კონტექსტი იზომება ჟეტონებით, ხოლო კონტექსტური ფანჯარა წარმოადგენს ჟეტონების მაქსიმალურ რაოდენობას, რომლის განხილვა ან მართვა შეიძლება მოდელმა ერთდროულად. თითოეული ნიშანი წარმოადგენს სიტყვას ან სიტყვის ნაწილს, დამოკიდებულია ენაზე. ინგლისურად, ერთი ჟეტონი წარმოადგენს ერთ სიტყვას, ამიტომ ხელოვნური ინტელექტის მოდელი, როგორიცაა GPT-4, 16,000 (16k) ტოკენის ფანჯრით, შეუძლია გაუმკლავდეს დაახლოებით 12,000 სიტყვას.
ტოკენიზაციის მეთოდები -- ეს არის სიტყვების დათვლა და თარგმნა ჟეტონებად -- განსხვავდება სისტემის მიხედვით. აქ არის მაგალითი იმისა, თუ როგორ შეიძლება გამოიყურებოდეს ტოკენიზაციის მეთოდი:
| Example phrase | The quick brown fox jumps over the lazy dog. | Lorem ipsum dolor sit amet, consectetur adipiscing elit, sed. |
| Token breakdown | "The", "quick", "brown", "fox", "jumps", "over", "the", "lazy", "dog", "." | "Lorem", "ipsum", "dolor", "sit", "amet", ",", "consectetur", "adipiscing", "elit", ",", "sed", "." |
| Word count | 9 words | 9 words |
| Token count | 10 tokens | 12 tokens |
ხელოვნური ინტელექტის ჩატბოტი, რომელსაც შეუძლია დაახლოებით 12000 სიტყვის დამუშავება, შეუძლია შეაჯამოს 3000-სიტყვიანი სტატია ან 5000-სიტყვიანი კვლევის ნაშრომი და შემდეგ უპასუხოს შემდგომ კითხვებს ისე, რომ არ დაივიწყოს, რა იყო დოკუმენტში, რომელიც მომხმარებელმა გააზიარა. წინა შეტყობინებების ნიშნები განიხილება საუბრის განმავლობაში, რაც ბოტის კონტექსტს აძლევს განხილულს.
ამრიგად, თუ საუბარი რჩება ნიშნის ლიმიტის ფარგლებში, AI ჩატბოტს შეუძლია შეინარჩუნოს სრული კონტექსტი. მაგრამ თუ ის გადააჭარბებს ტოკენის ლიმიტს, ყველაზე ადრეული ნიშნები სავარაუდოდ იგნორირებული იქნება ან დაიკარგება ფანჯარაში დარჩენისთვის, ასე რომ ბოტი პოტენციურად დაკარგავს გარკვეულ კონტექსტს.
სწორედ ამიტომ Google ამაყად აქვეყნებს რეკლამას Gemini 1.5 Pro-ს დიდი კონტექსტური ფანჯარა, რომელიც შედგება მილიონი ტოკენისგან. Google-ის აღმასრულებელი დირექტორის სუნდარ პიჩაის თქმით, მილიონი ჟეტონი ნიშნავს, რომ მის Gemini Advanced ჩეთბოტს შეუძლია დაამუშაოს კოდის 30000-ზე მეტი ხაზი, 1500-მდე გვერდის PDF ფაილი ან ჩიზქეიქის ქარხნის 96 მენიუ.