Red Hat დიდ ფსონებს დიდს დებს AI- ზე თავისი ნერვული ჯადოსნური შეძენით

ყველა და მათი ძაღლი AI- ში მოხვდება, მაგრამ Red Hat- ს სერიოზული გეგმები აქვს და ნერვული მაგიის შეძენა ხელს შეუწყობს მათ ნაყოფს.

Red Hat-მა, IBM-ის მფლობელობაში არსებული ღია კოდის პროგრამული უზრუნველყოფის გიგანტმა, დაასრულა Neural Magic-ის, პიონერული ხელოვნური ინტელექტის (AI) ოპტიმიზაციის სტარტაპის შეძენა. თავდაპირველად გამოცხადდა 2024 წლის ნოემბერში, გარიგება დაიხურა 13 წლის 2025 იანვარს, რაც აღნიშნავს მნიშვნელოვან ნაბიჯს Red Hat-ის სტრატეგიაში, რათა გაზარდოს მისი AI შესაძლებლობები ჰიბრიდულ ღრუბლოვან გარემოში.

მიუხედავად იმისა, რომ ფასი არ იყო გამჟღავნებული, Neural Magic- მა ადრე 50 მილიონი დოლარი შეადგინა ვენჩურული კაპიტალის დაფინანსებაში სხვადასხვა ინვესტორებისგან, მათ შორის ანდრესენ ჰოროვიცი, ახალი საწარმოს ასოციაცია, ამდოკი და Comcast Ventures. ჩვენ შეგვიძლია უსაფრთხოდ ვივარაუდოთ, რომ გარიგება არ გაკეთებულა არაქისისთვის. მიზეზი ალბათ არ დააზარალებს, დარწმუნებული ვარ, იმით, რომ Neural Magic- ის აღმასრულებელი დირექტორი გარიგების დახურვამდე იყო ბრაიან სტივენსი, Red Hat- ის ყოფილი CTO და აღმასრულებელი VP.

როდესაც შერწყმა პირველად გამოცხადდა, სტივენსმა თქვა: "ნერვულ მაგიაში, ჩვენი ხედვაა, რომ ხელოვნური ინტელექტის მომავალი ღიაა და ჩვენ მისიაში ვიყავით, რათა საწარმოებმა შეძლონ ძლიერი ინოვაცია ხელოვნური ინტელექტისგან, ხოლო ამავე დროს თავისუფალია ხახუნისა და შეზღუდვისგან. ღია კოდის მოდელები, ოპტიმიზაციის ალგორითმები და დასკვნის სისტემები ამის გულია - საშუალებას აძლევს საწარმოებს ფლობდნენ საკუთარ AI მოდელებს, პერსონალურად მოარგონ ისინი მონაცემთა ნაკრებებში და განათავსონ ისინი თავიანთ კერძო მრავალ გამყიდველ ინფრასტრუქტურაზე - ღრუბელზე, მონაცემთა ცენტრში ან ზღვარზე.

Neural Magic, MIT spinoff დაარსდა 2018 წელს, შეიმუშავა ინოვაციური პროგრამული უზრუნველყოფა და ალგორითმები, რომლებიც აჩქარებენ გენერაციულ AI დასკვნის დატვირთვას.

კომპანიის ტექნოლოგია საშუალებას აძლევს კომპლექსურ AI მოდელებს ეფექტურად აწარმოონ სასაქონლო აპარატურა, მათ შორის სტანდარტული CPU და GPU, რაც პოტენციურად ამცირებს ძვირადღირებული, სპეციალიზებული AI ამაჩქარებლების საჭიროებას.

მაშ, რას ნიშნავს ეს შესაძლებლობა? ისე, Neural Magic მოუტანა რამდენიმე ძირითადი ტექნოლოგია Red Hat მეშვეობით შეძენა:

1. vLLM Expertise: Neural Magic არის წამყვანი კონტრიბუტორი vLLM- ში, ღია კოდის პროექტი ეფექტური დიდი ენის მოდელის (LLM) მომსახურებისთვის. კერძოდ, vLLM უკვე არის Red Hat Enterprise Linux (RHEL) AI და Red Hat OpenShift AI-ის დასკვნის ძრავა. ეს ნაბიჯი აშკარად სარგებლობს Red Hat-ის არსებული AI პროგრამებით.
2. DeepSparse: დასკვნის გაშვების დრო, რომელიც აწვდის GPU- ს კლასის შესრულებას სასაქონლო CPU- ებზე ალგორითმების საშუალებით, რომლებიც ამცირებენ გამოთვლით და მეხსიერების საჭიროებებს ნერვული ქსელის შესრულებისთვის. კერძოდ, LLM- ების გარდა, DeepSparse ასევე სასარგებლოა კომპიუტერული ხედვისთვის (CV) და ბუნებრივი ენის დამუშავებისთვის (NLP).
3. SparseZoo: თუ იყენებთ DeepSparse- ს, Neural Magic უკვე გთავაზობთ წინასწარ ოპტიმიზირებული CV, NLP და LLM მოდელების საცავს.
4. მოდელის შეკუმშვის ტექნიკა: Neural Magic შეიმუშავა მოწინავე მეთოდები მოდელის რაოდენობრივი და sparsification, რომელიც შეიძლება მნიშვნელოვნად შეამციროს მოდელი ზომა და გამოთვლითი მოთხოვნები გარეშე მნიშვნელოვანი დაკარგვა სიზუსტით.
5. მრავალპლატფორმული ოპტიმიზაცია: Neural Magic-ის ტექნოლოგია საშუალებას იძლევა AI მოდელის ოპტიმიზაცია ღრუბელში, მონაცემთა ცენტრში და პირას გარემოში განთავსებისთვის.

ეს ტექნოლოგიები შეესაბამება Red Hat-ის ხედვას, რომ AI-ის დატვირთვა უფრო ხელმისაწვდომი, ეფექტური და განლაგებული იყოს ჰიბრიდულ ღრუბლოვან გარემოში, რაც პოტენციურად ამცირებს სპეციალიზებული და ძვირადღირებული AI ტექნიკის საჭიროებას. მოკლედ, Neural Magic- ის ტექნოლოგია საშუალებას აძლევს მომხმარებლებს გააკეთონ AI იაფად. ეს ასევე, მის vLLM გულში, ღია კოდის AI მიდგომაა.

Red Hat-ისთვის, როგორც კომპანიის აღმასრულებელმა დირექტორმა მეტ ჰიკსმა განცხადებაში თქვა: "ჩვენ მოხარული ვართ, რომ შევავსოთ ჩვენი ჰიბრიდული ღრუბელზე ორიენტირებული AI პორტფელი Neural Magic-ის დასაბუთებული AI ინოვაციებით, რაც ხელს უწყობს ჩვენს სწრაფვას არა მხოლოდ ღია წყაროს "წითელი ქუდი", არამედ ხელოვნური ინტელექტის "წითელი ქუდი".

X- ზე ჰიკსმა დაწერა: "At@RedHat, ჩვენ გვჯერა, რომ ხელოვნური ინტელექტის მომავალი ღიაა. ამიტომ მე წარმოუდგენლად აღფრთოვანებული ვარ ჩვენი @NeuralMagic შეძენით. ერთად, ჩვენ ხელს ვუქმნით ჩვენს მომხმარებლებს და ღია წყაროს საზოგადოებას, რომ მივაწოდოთ AI-ის მომავალი - და ეს დღეს იწყება."

სტრატეგიულად, Red Hat იმედოვნებს, რომ მისი Neural Magic შეძენა ხელს შეუწყობს Red Hat- ის პოზიციას AI დატვირთვის განლაგების უნარში მრავალფეროვან გამოთვლით გარემოში, შენობაში არსებული მონაცემთა ცენტრებიდან საზოგადოებრივ ღრუბლებამდე და გააუმჯობესოს AI დატვირთვის ეფექტურობა, რომელიც უკვე მუშაობს RHEL AI, OpenShift AI და InstructLab, ღია კოდის წითელი ქუდი და IBM AI საზოგადოების პროექტი ღია წყაროს ლიცენზირებული IBM Granite LLM- ების გასაუმჯობესებლად.

ასე რომ, გამოდგება ეს მიდგომა? დეივ მაკარტი, IDC- ის Cloud და Edge Services კვლევის ვიცე-პრეზიდენტი, ასე ფიქრობს: "წითელი ქუდის ნერვული მაგიის შეძენა არის სტრატეგიული გაფართოება მისი AI შესაძლებლობებისთვის, რაც ხელს უწყობს AI განლაგებას ჰიბრიდულ ღრუბლებში ნერვული მაგიის გამოცდილების გამოყენებით მოდელის ოპტიმიზაციასა და დასკვნის აჩქარებაში. ეს ნაბიჯი შეესაბამება Red Hat-ის ვალდებულებას ღია კოდის ინოვაციებისა და კომპანიის პოზიციონირების შესახებ, რათა შესთავაზოს უფრო ეფექტური, მასშტაბური AI გადაწყვეტილებები, რომლებიც ამცირებენ დამოკიდებულებას სპეციალიზებულ აპარატურაზე.