TẠO TRỢ LÝ ẢO AI / BOT AI CHẠY TRÊN PC KHÔNG CẦN INTERNET
Ollama là công cụ ngôn ngữ mạnh mẽ cho phép chạy các mô hình ngôn ngữ lớn trên máy tính cá nhân. Nó giống như bộ não của các con AI để tải các model được train của Meta (Facebook), Google.
- Có thể trả lời câu hỏi
- Viết code
- Hướng dẫn học
- Đưa ra lộ trình học
- Có thể nhớ được ngữ cảnh trò chuyện (lịch sử trò chuyện)
B1: Vào https(:)//ollama(.)com/download để tải file setup và cài đặt vào máy
B2: Sau khi cài xong ở góc dưới màn hình sẽ có biểu tượng Ollama, click vào sẽ ra cửa sổ Powershell. Giờ mình cần tải model về để sử dụng. Mọi người có thể tìm các model tại : https(:)//ollama(.)com/models (models càng thông minh thì dung lượng càng lớn)
Ví dụ: Tải model Gemma2 của Google sẽ chạy dòng lệnh (Hình B2):
ollama run gemma2:9b
Lần đầu sẽ tải model khá lâu, lần sau ko cần tải nữa chỉ việc sử dụng
B3: Ngay tại cửa sổ Powershell đó mn có thể chat trực tiếp với Ai luôn nhưng chưa lưu đc ngữ cảnh trò chuyện. Phím tắt “Ctrl + D” để thoát.
CHÚ Ý: Ollama sẽ chạy server trên PC nên sẽ chiếm bộ nhớ Ram nên cần cấu hình Ram từ 8GB trở lên, model lớn thì cần cấu hình khoẻ hơn. Có VGA càng tốt
Tải Ollama-GUI để dễ sử dụng hơn:
https(:)//github(.)com/chyok/ollama-gui
Cài đặt Python 3.12 trở lên
Thư viện cần thiết:
pip install ollama-gui
Chạy Ollama-GUI:
python ollama_gui.py
