Package anlavn.ai

Class YourGPT

java.lang.Object
anlavn.ai.YourGPT
All Implemented Interfaces:
AutoCloseable
public final class YourGPT extends Object implements AutoCloseable
Lớp YourGPT hỗ trợ suy luận LLM (Mô hình ngôn ngữ lớn) với LLaMA.
Lớp này cung cấp các phương thức để tải mô-đun YourGPT, khởi động máy chủ, tương tác với mô hình...

  • Field Summary

    Fields
    Modifier and Type
    Field
    Description
    static String
    API_KEY
     
    static Map<String,String>
    params
    Các tham số LLaMA có thể định cấu hình cho máy chủ YourGPT.
    Các tham số này phải được điều chỉnh trước khi khởi động máy chủ.
    Đọc thêm về các thông số có sẵn tại: https://github.com/ggerganov/llama.cpp/blob/master/examples/server/README.md

  • Constructor Summary

    Constructors
    Constructor
    Description
    YourGPT()
     

  • Method Summary

    Modifier and Type
    Method
    Description
    static void
    cleanLLaMA()
    Sử dụng phương thức này để dọn sạch mô-đun YourGPT.LLaMA nếu nó tồn tại.
    static void
    cleanModel()
    Sử dụng phương thức này để dọn sạch mô-đun YourGPT.Model nếu nó tồn tại.
    void
    close()
     
    static void
    destroy()
    Sử dụng phương thức này để buộc phá hủy tiến trình YourGPT.
    static String[]
    getLLaMA()
    Sử dụng phương thức này để truy xuất danh sách các tên LLaMA mới nhất hiện có.
    static void
    loadModule()
    Sử dụng phương thức này để tải mô-đun YourGPT bằng LLaMA mặc định và LLM mặc định.
    Tương đương với việc gọi `loadModule("Win_CUDA12")`.
    static void
    loadModule(String llama)
    Sử dụng phương thức này để tải mô-đun YourGPT bằng LLaMA được chỉ định và LLM mặc định.
    static void
    loadModule(String llama, String model)
    Sử dụng phương thức này để tải mô-đun YourGPT bằng LLaMA được chỉ định và LLM được chỉ định.
    static void
    start()
    Sử dụng phương thức này để khởi động máy chủ YourGPT với các tham số đã chỉ định.
    Nếu mô-đun chưa được tải, nó sẽ cố tải bằng cài đặt mặc định.

    Methods inherited from class java.lang.Object

    clone, equals, finalize, getClass, hashCode, notify, notifyAll, toString, wait, wait, wait

  • Field Details

  • Constructor Details

    • YourGPT

      public YourGPT()

  • Method Details

    • close

      public void close() throws Exception
      Specified by:
      close in interface AutoCloseable
      Throws:
      Exception

    • loadModule

      public static void loadModule()
      Sử dụng phương thức này để tải mô-đun YourGPT bằng LLaMA mặc định và LLM mặc định.
      Tương đương với việc gọi `loadModule("Win_CUDA12")`.
      See Also:

    • loadModule

      public static void loadModule(String llama)
      Sử dụng phương thức này để tải mô-đun YourGPT bằng LLaMA được chỉ định và LLM mặc định.
      Parameters:
      llama - tên của tệp LLaMA cần tải.
      Ví dụ: "Win_CUDA12"
      Khám phá thêm tại https://anlavn-api.vercel.app/api/llama
      See Also:

    • loadModule

      public static void loadModule(String llama, String model)
      Sử dụng phương thức này để tải mô-đun YourGPT bằng LLaMA được chỉ định và LLM được chỉ định.
      Parameters:
      llama - tên của tệp LLaMA cần tải.
      Ví dụ: "Win_CUDA12"
      Khám phá thêm tại https://anlavn-api.vercel.app/api/llama
      model - vị trí của LLM được chỉ định, nó có thể là đường dẫn cục bộ hoặc địa chỉ liên kết.
      Ví dụ:
      "C:/Users/AnLaVN/mistral-7b-openorca.Q4_K_M.gguf" cho vị trí tập tin hoặc,
      "https://huggingface.co/TheBloke/Mistral-7B-OpenOrca-GGUF/resolve/main/mistral-7b-openorca.Q4_K_M.gguf"

      Khám phá thêm LLM tại https://huggingface.co
      See Also:

    • start

      public static void start()
      Sử dụng phương thức này để khởi động máy chủ YourGPT với các tham số đã chỉ định.
      Nếu mô-đun chưa được tải, nó sẽ cố tải bằng cài đặt mặc định.

    • getLLaMA

      public static String[] getLLaMA() throws IOException
      Sử dụng phương thức này để truy xuất danh sách các tên LLaMA mới nhất hiện có.
      Returns:
      mảng các tên LLaMA mới nhất.
      Khám phá thêm tại https://anlavn-api.vercel.app/api/llama
      Throws:
      IOException - nếu không có kết nối internet hoặc máy chủ bị hỏng.

    • cleanLLaMA

      public static void cleanLLaMA()
      Sử dụng phương thức này để dọn sạch mô-đun YourGPT.LLaMA nếu nó tồn tại.

    • cleanModel

      public static void cleanModel()
      Sử dụng phương thức này để dọn sạch mô-đun YourGPT.Model nếu nó tồn tại.

    • destroy

      public static void destroy()
      Sử dụng phương thức này để buộc phá hủy tiến trình YourGPT.