როგორ აწარმოოთ ადგილობრივი LLM, როგორც ბრაუზერზე დაფუძნებული AI ამ უფასო გაფართოებით

Ollama საშუალებას გაძლევთ გამოიყენოთ ადგილობრივი LLM თქვენი ხელოვნური ინტელექტის საჭიროებებისთვის, მაგრამ სტანდარტულად, ეს არის მხოლოდ ბრძანების ხაზის ინსტრუმენტი. ტერმინალის გამოყენების თავიდან ასაცილებლად, ამის ნაცვლად სცადეთ ეს გაფართოება.

დისტანციური LLM- ის მოთხოვნის იდეა ჩემს ხერხემალს აჭიანურებს - და არა კარგი გზით. როდესაც AI- ს საშუალებით უნდა გავაკეთო კვლევის ადგილი, მე ვირჩევ ადგილობრივ LLM- ს, როგორიცაა Ollama.

თუ ჯერ არ დაინსტალირებული გაქვთ Ollama, ამის შესახებ შეგიძლიათ წაიკითხოთ ჩემი სახელმძღვანელო , თუ როგორ უნდა დააყენოთ LLM MacOS- ზე (და რატომ უნდა). თქვენ ასევე შეგიძლიათ დააინსტალიროთ Ollama Linux-სა და Windows-ზე და, იმის გათვალისწინებით, რომ Firefox-ის გაფართოება მუშაობს სამივე პლატფორმაზე, შეგიძლიათ დარწმუნებული იყოთ, რომ დესკტოპის ოპერაციული სისტემა იმუშავებს.

Ollama- ს გამოყენება ტერმინალის ფანჯარაში რეალურად საკმაოდ მარტივია, მაგრამ ის არ გაძლევთ ასეთ აშკარა წვდომას სხვა ფუნქციებზე (როგორიცაა LLM/Prompt შერჩევა, სურათის ატვირთვა, ინტერნეტის ძიების ჩართვა/გამორთვა და პარამეტრები).

უფასო გაფართოება, რომელსაც მე აღვნიშნავ, მუშაობს Firefox- ზე, Zen Browser- ზე (ჩემი ერთ-ერთი რჩეული) და სხვა.

მოდით მივიდეთ ამ გაფართოებამდე.

როგორ დააყენოთ Page Assist გაფართოება Firefox-ში

რა დაგჭირდებათ: ამ სამუშაოს შესასრულებლად დაგჭირდებათ Ollama-ს ინსტალაცია და გაშვება, ასევე Firefox-ბრაუზერი. ეს არის. ეა ნაოპაგთმ მადთწ.

1. გახსენით Firefox

პირველი, რაც უნდა გააკეთოთ, არის Open Firefox. თუ ამას კითხულობთ Firefox-ის საშუალებით, თქვენ უკვე ერთი ნაბიჯით წინ ხართ.

2. დააინსტალირეთ გვერდის დახმარება

მიუთითეთ Firefox გვერდზე დახმარების დამატება დამატებების მაღაზიაში და დააჭირეთ ღილაკს "დაამატეთ Firefox". მოთხოვნისას დააჭირეთ დამატებას. თქვენ შეამჩნევთ დამატებების მაღაზიის სიებს Page Assist როგორც არ არის აქტიურად მონიტორინგი Mozilla-ს მიერ უსაფრთხოებისთვის. ამის გამო, მე თვალყურს ვადევნებდი გაფართოების წყაროს, რომელიც მასპინძლობს GitHub- ზე . მას შემდეგ, რაც წყაროს ჩამოტვირთვა და ნახვა შესაძლებელია, მე არ მოგერიდებათ მისი ინსტალაცია. 

გახსოვდეთ, რომ არაფერია 100% უსაფრთხო. ასევე, შეგიძლიათ გადახედოთ მიმოხილვებს და დაინახოთ, რომ არავინ უჩიოდა მავნე საქმიანობას გაფართოებისგან. 

დაბოლოს, შეგიძლიათ გაეცნოთ დეველოპერის ვებსაიტს , რომ გაიგოთ მეტი.

როგორც ბრაუზერის ყველა გაფართოებას, ინსტალაციის დაწყებამდე გააკეთეთ ცოტა კვლევა.

როგორ გამოვიყენოთ Page Assist

სანამ რეალურად გამოიყენებთ Page Assist- ს, თქვენ უნდა უზრუნველყოთ, რომ Ollama მუშაობს. თუ თქვენ უკვე დააინსტალირეთ, შეგიძლიათ აწარმოოთ ადგილობრივი LLM მსგავსი ბრძანებით:

Ollama აწარმოებს  llama3.2

თუ ხედავთ >>> მოთხოვნას, LLM მუშაობს და მზად არის მიიღოს შეკითხვები.

1. დააყენეთ გაფართოება

პირველი, რასაც მე გავაკეთებდი, არის გვერდის დახმარების გაფართოება Firefox-ის ხელსაწყოთა პანელზე. ამისათვის დააჭირეთ თავსატეხის ნაჭრის ხატულას და შემდეგ დააჭირეთ გვერდის დახმარების გადაცემათა კოლოფის ხატულას. ჩამოსაშლელიდან დააჭირეთ ღილაკს "Pin to toolbar." ახლა თქვენ უნდა ნახოთ გვერდის დახმარების ხატი Firefox-ის ხელსაწყოთა პანელში (რომელიც პატარა აზროვნების ბუშტს ჰგავს).

მე ყოველთვის ვამაგრებ იმ დამატებებს, რომლებიც ვიცი, რომ რეგულარულად გამოვიყენებ Firefox-ის ხელსაწყოთა პანელს.

2. გახსენით გაფართოება

დააჭირეთ გვერდის დახმარების ხატულას და გაიხსნება ახალი ჩანართი Ollama UI- ით.

3. აირჩიეთ თქვენი მოდელი

სანამ შეძლებთ თქვენი პირველი მოთხოვნის გაშვებას, თქვენ უნდა აირჩიოთ მოდელი. დააჭირეთ ღილაკს "აირჩიეთ მოდელი" ჩამოსაშლელი და აირჩიეთ თქვენს მიერ დაინსტალირებული მოდელი (მაგალითად, llama3.2:latest).

თუ თქვენ გაქვთ მრავალი მოდელი დაინსტალირებული, ისინი ყველა გამოჩნდება ამ ჩამოსაშლელში.

4. აკრიფეთ თქვენი შეკითხვა

ახლა თქვენ შეგიძლიათ აკრიფოთ თქვენი შეკითხვა ქვედა განყოფილებაში, სახელწოდებით "ჩაწერეთ შეტყობინება." დააჭირეთ Enter თქვენს კლავიატურაზე ან დააჭირეთ გაგზავნას, ხოლო ოლამა სამუშაოდ წავა.

Ollama მაცნობებს რა არის Linux.

5. ახალი მოდელის დამატება

ასევე შეგიძლიათ დაამატოთ ახალი მოდელები Page Assist-ით. ამისათვის დააჭირეთ გადაცემათა კოლოფის ხატულას გვერდის დახმარების ფანჯრის ზედა მარჯვენა ნაწილში. დააჭირეთ მოდელების მართვას მარცხენა გვერდითა ზოლში და შემდეგ დააჭირეთ ახალი მოდელის დამატებას. pop-up ფანჯარაში ჩაწერეთ მოდელის სახელი, რომლის დამატებაც გსურთ და დააჭირეთ Pull Model. ოლამასთვის ხელმისაწვდომი მოდელების სრული ჩამონათვალისთვის, შეამოწმეთ ეს გვერდი.

თქვენ შეგიძლიათ დაამატოთ იმდენი მოდელი, რამდენიც გსურთ, მაგრამ გაითვალისწინეთ თითოეული ფაილის ზომა, რადგან ზოგიერთს შეუძლია მიიღოს ძალიან დიდი.

და ეს, ჩემო მეგობრებო, არის ის, თუ როგორ შეგიძლიათ უფრო მარტივად იმოქმედოთ Ollama-სთან, მარტივი Firefox-ის გაფართოების წყალობით.