ელოდებით ChatGPT გაუმჯობესებას? შეიძლება ცოტა ხანი გელოდებით, აი რატომ

რეზიუმე

• ChatGPT-ის გამოშვების სიჩქარე ნელდება და ყოველწლიური განახლებებისკენ მიდის.
• ტრანსფორმატორის ტექნოლოგია და კლებადი ანაზღაურება იწვევს LLM განვითარების შენელებას.
• ტრენინგის მონაცემების ნაკლებობა და გაურკვეველი მოგების მოდელები იწვევს AI პროექტების მომავალს, როგორიცაა ChatGPT.

ChatGPT-მა შეცვალა მრავალი ადამიანის ცხოვრება და მოღვაწეობა მთელს მსოფლიოში, მაგრამ მათ, ვინც თვალი ადევნებს მოდელის ტემპს, შეამჩნია, რომ ის შენელებულია. რა ხდება LLM განვითარებასთან დაკავშირებით და მივდივართ თუ არა ხელოვნური ინტელექტის ბნელი ხანისკენ 2025 წელს და მის შემდგომ?

ChatGPT: ვადები

როდესაც OpenAI-მ გამოუშვა თავისი პირველი საჯარო მოდელი, ChatGPT 3.5, 2022 წლის ნოემბერში, მან საძიებო და ხელოვნური ინტელექტის ინდუსტრიები ქარიშხალი გამოიწვია. 2023 წელს Meta Threads-ის ამოქმედებამდე, ChatGPT იყო ყველა დროის ყველაზე სწრაფად მზარდი აპლიკაცია და დაამატა 100 მილიონი მომხმარებელი მის სიაში სამ თვეზე ნაკლებ დროში.

მას შემდეგ კომპანია ახალ მოდელებს შორის დაახლოებით ექვსთვიანი ტემპიდან გადავიდა და ახლა უფრო წლიურ განახლებებს ახორციელებს. მიუხედავად იმისა, რომ ChatGPT 3.5-სა და ChatGPT 4.0-ის გაშვებას შორის მხოლოდ ხუთი თვე გავიდა, ამის შემდეგ ChatGPT o1-ის გამოშვებას 2023 წლის მარტიდან 2024 წლის დეკემბრამდე დასჭირდა.

იმის გამო, რომ o3-ს არ აქვს გაშვების მყარი თარიღი, არ არსებობს რეალური თქმა, როდის შეიძლება ვნახოთ OpenAI-ის შემდეგი დიდი მოდელი. ზოგიერთმა ადრეულმა ტესტერმა უკვე აიღო ხელი ბეტაზე, მაგრამ ეს არ იძლევა დიდ სიგნალს იმის შესახებ, თუ როდის შეიძლება ველოდოთ შემდეგი ევოლუცია LLM-ებში საჯარო კომპიუტერებზე. მაშ, რა არის ზოგიერთი მიზეზი, რის გამოც LLM განვითარება დაიწყო შენელება და გადაიხდის თუ არა საბოლოო ჯამში ტექნიკური სამყაროს ინვესტიციები დივიდენდებს?

Autobots, Roll Out

ტრანსფორმატორები არის ფუნდამენტური ტექნოლოგია, რომელმაც პირველად გარდაქმნა (უკეთესი ტერმინის არარსებობის გამო) ხელოვნური ინტელექტის ინდუსტრია, დაწყებული დაახლოებით 2017 წლიდან. CUDA არქიტექტურის გამოყენებით GPU-ებში, როგორც მთლიანი გამოთვლითი პლატფორმის სახით, ვიდრე მხოლოდ გამოსახულების რენდერირებას, ტრანსფორმატორებს შეუძლიათ შეცვალონ ყველაზე მეტი. ძირითადი გრაფიკული ბარათები ხელოვნური ინტელექტის მქონე პროცესორებში.

მაგრამ მიუხედავად იმისა, რომ დიდი ენობრივი მოდელების (LLM) ადრეულმა ბევრმა მოდელმა და მათმა უფრო მცირე სიმბოლურმა შეყვანამ შეძლო მეტი უპირატესობის გამოყენება CUDA არქიტექტურით, ბოლო დროს ჩვენ ვნახეთ კლებადი ანაზღაურება. მურის კანონის დაჩქარებული ვერსიის მსგავსად - რაც, რა თქმა უნდა, ტექნოლოგიის მკვეთრი გამარტივებაა მოკლედ მუშაობისთვის - GPU-ებმა დაიწყეს პიკის მიღწევა AI მუშაობის გამომუშავებაში, მიუხედავად გაზრდილი ინვესტიციებისა ტრანზისტორის სიმკვრივესა და VRAM-ის სპეციფიკაციებში ყოველწლიურად.

Nvidia-ს კონფერენციაზე CES წელსაც კი მოჰყვა მყუდრო რეაქციები, რადგან გაირკვა, რომ ჩვენ უკვე მივაღწიეთ ხელოვნური ინტელექტის ტექნიკის „ევოლუციური“ ფაზას და არა „რევოლუციურ“ ნახტომებს, რომლებსაც ზოგიერთი ელოდა ბოლო რამდენიმე წლის ტრაექტორიის გათვალისწინებით.

ჩვენ ჯერ კიდევ არ ვართ ისე ახლოს იმ წერტილთან, რომ GPU-ზე დაფუძნებული AI აპარატურა მის თეორიულ ფიზიკურ ზღვარს მივიყვანოთ, როგორც ზოგიერთ კლასიკურ CPU-სთან. (შენიშვნა; ეს არ შეიცავს 3D-ზე დაფუძნებულ ახალ მიდგომებს.) თუმცა, ძირითადი მიღწევები, რომლებიც ვნახეთ ბოლო ხუთი წლის განმავლობაში GPU-ებში და ტრანსფორმატორის არქიტექტურის მხარდაჭერაში, უფრო ნელდება, ვიდრე ზოგიერთი სპრინტი. ინდუსტრიაში იმედოვნებდნენ 1980-იან და 2000-იანი წლების დასაწყისში კლასიკურ გამოთვლებს.

ლულის ფსკერის გახეხვა

კიდევ ერთი მნიშვნელოვანი დაბრკოლება, რომელსაც ახლა აწყდება მრავალი LLM კომპანია, მათ შორის OpenAI ერთად ChatGPT, არის ტრენინგის მონაცემების ნაკლებობა. რადგან ყველა FAANG-ის მხარდაჭერილმა LLM-მა (ტყუპები, კლოდ და ჩატGPT) უკვე მოიპოვა და გაწვრთნა იმაზე, რაც ეფექტურად შეიძლება ჩაითვალოს ღია ქსელში ხელმისაწვდომი საჯარო ინფორმაციის მთლიანობად, კომპანიები ეჯახებიან შეყვანიდან გამომავალ აგურის კედელს. ბრუნდება.

ბევრი ახალი მონაცემების გარეშე დარჩენილი თაობის მოდელების მომზადებისთვის, ზოგიერთმა დეველოპერმა მიმართა იმას, რაც ცნობილია, როგორც "რეკურსიული" ტრენინგის მოდელი. ამ შემთხვევებში, ხელოვნური ინტელექტი გამოიყენება ხელოვნური ინტელექტის მოსამზადებლად, მაგრამ შედეგები საუკეთესო შემთხვევაში შერეული ჩანთა იყო. მიუხედავად იმისა, რომ უფრო მარტივი ცნებები და ამოცანები შეიძლება რეკურსიულად ივარჯიშონ, უფრო დიდი შედეგების მიღწევა, ვიდრე AI-ით, რომელიც გაწვრთნილი იყო ადამიანის შედეგებზე, არის ჰალუცინაციის პრობლემა. თუ ადრე ფიქრობდით, რომ AI-ებს შეიძლება ჰალუცინაციები ჰქონდეთ, სცადეთ ხელოვნური ინტელექტის მიწოდება AI-ს და ნახეთ, რა სახის შედეგები დაბრუნდება. მოკლედ, არცთუ უმნიშვნელო ნაწილი იქმნება ადგილზე.

ვინ ახორციელებს კანონპროექტს?

ხელოვნური ინტელექტისა და LLM-ის უზენაესობისთვის ბრძოლამ გამოიწვია ინდუსტრიაში შემოსული ფულის ნაგავსაყრელი, რომელიც მომდევნო რამდენიმე წელიწადში 1 ტრილიონ დოლარზე მეტი იქნება, როგორც ამას ბოლოდროინდელი Goldman Sachs-ის ანალიზი პროგნოზირებდა. თუმცა, იმ თანხის გამოძახებითაც კი, ტრენინგისა და LLM-ის შენარჩუნების ხარჯები, როგორიცაა ChatGPT, კვლავ ეძებს მოგების არხს, რომ განათება შეინარჩუნოს.

LLM-ების სწავლება, ექსპლუატაცია და მოთხოვნები გაცილებით ძვირია, ვიდრე თქვენი სტანდარტული Google ძიება. ზოგიერთი შეფასებით ვარაუდობს, რომ ChatGPT-ის ერთ მოთხოვნას შეუძლია გამოიყენოს Google-ის მოთხოვნის გამოთვლა და სიმძლავრე ათჯერ მეტი, თუმცა რეალური რიცხვები OpenAI-ის მიერ კარგად დაცული საიდუმლოა. ბოლო დრომდე, FAANG-ის ყველა ძირითადი მოთამაშე უახლოვდებოდა AI-ს სტანდარტული ოპერაციული სათამაშო წიგნით: "1. ჩააგდე მეტი VC ნაღდი ფული, ვიდრე შენი კონკურენტები 2. დაიჭირე ბაზრის მაქსიმალური წილი 3. ??? 4. მოგება."

მაგრამ ხელოვნური ინტელექტის სამყარო სტანდარტულია. იმის გამო, რომ გამოთვლითი ხარჯები შემთხვევით არ გაიზარდა Nvidia-ს აქციების ფასთან ერთად, ამ ხარჯების ანაზღაურების რეალური მოგების მოდელი საუკეთესო შემთხვევაში მაინც ნისლიანია.

ChatGPT იხდის $20 თვეში მის ყველაზე მოწინავე და უახლეს მოდელებზე წვდომისთვის. მაგრამ 11 მილიონი გადამხდელი აბონენტითაც კი, The Information-ის მოხსენების თანახმად, რომელიც მოჰყავს OpenAI-ს COO-ს, OpenAI კვლავ განიხილავს სააბონენტო ახალ დონეებს უფრო მოწინავე LLM-ებისთვის, რომლებიც შეიძლება თვეში $2,000-მდე იყოს, შესაძლებლობებიდან გამომდინარე.

ეს პრობლემა კიდევ უფრო უარესდება შედეგების შემცირებით. რამდენადაც ბევრი ადამიანი მიდის იმაზე, რომ უფასო მოდელები, როგორიცაა ChatGPT 4o, არის „საკმარისად კარგი“ იმისთვის, რაც მათ სჭირდებათ - „საკმარისი“ არის თითოეული მომხმარებლისთვის სუბიექტური გამოცდილება და, რა თქმა უნდა, მათი გამოყენების შემთხვევა - ყოველთვიური გამოწერის გაყიდვის წერტილი კარგავს თავის მნიშვნელობას. პოტენციურად დაკარგული კაპიტალის შიშმა განაპირობა ხელოვნური ინტელექტის ინვესტიციების შენელება წინა წლებთან შედარებით, რაც ნიშნავს ნატურალური განვითარების შენელებას.

როდის გააკეთებს ChatGPT შემდეგ ნახტომს?

როდესაც ChatGPT ემზადება თავისი o3 მოდელის გასაშვებად, ინდუსტრიის ანალიტიკოსები ვარაუდობენ, რომ ეს შეიძლება იყოს ერთადერთი ახალი საჯარო გამოშვება, რომელსაც ვნახავთ OpenAI-სგან მთელი 2025 წელს. ბევრი ბედნიერია, რომ არასწორია, მაგრამ ზემოთ აღნიშნული საკითხების გათვალისწინებით, ის ეძებს. უფრო სავარაუდოა დღითიდღე.

მაგრამ, საბოლოო ჯამში, არის ეს ასეთი ცუდი რამ? როგორც ლიდერბორდი გვიჩვენებს Chatbot Arena-ზე, მოდელის გამეორებები, რომლებსაც ადრე მხოლოდ თვეები სჭირდებოდათ ასობით ქულების გადახტომას გამოშვებებს შორის, ერთი წლის განმავლობაში ძლივს გადავიდა რამდენიმე ათეულზე მეტი. ჩვენ ვუახლოვდებით იმ პიკს, რისი გაკეთებაც LLM-ებს შეუძლიათ, თუნდაც ყველაზე ეფექტურ გარემოში, და მაშინ, როცა მასშტაბური კორპორატიული აპლიკაციები ჯერ კიდევ მომწიფებულია არჩევისთვის, ის, რაც LLM-ს შეუძლია გააკეთოს თქვენი საშუალო მომხმარებლისთვის, როგორც ჩანს, უახლოვდება მის თეორიულ ზღვარს.

მაშ, როდის მიიღებთ ხელში ChatGPT-ის შემდეგ ვერსიას? მხოლოდ დრო გვიჩვენებს. მაგრამ, სანამ ჩვენ ველოდებით, მოდელები, როგორიცაა ChatGPT o1 და 4o, ჯერ კიდევ საკმაოდ ძლიერია იმისათვის, რომ გაუმკლავდეთ ბილიკების მიხედვით დალაგებული სასურსათო სიის შედგენას, გეხმარებათ დაიმახსოვროთ რომელ წიგნში წაიკითხეთ კონკრეტული ციტატა, ან რა გსურთ გამოიყენოთ თქვენი საყვარელი ჩეთბოტი ყველაზე მეტად. ხშირად.