Chạy LLM trên vast.ai hay OpenAI? Người dùng đang cân nhắc chạy mô hình LLM 32B trên dịch vụ thuê GPU của vast.ai hoặc sử dụng OpenAI với chi phí 20-50$ tháng. #LLM #vastai #OpenAI #GPU #AI #TríTuệN Salesforce #MáyHọc #DịchVụGPU #TríTuệNhânTạo #MôHìnhHọcMáy

https://www.reddit.com/r/LocalLLaMA/comments/1qkc2rs/running_llm_on_vastai_or_openai_services/

Người dùng hỏi về chi phí thực tế khi dùng Vast.ai: ngoài mức 0,05 $/giờ cho GPU, còn có phí lưu trữ, băng thông… Ai đã dùng vui lòng chia sẻ ví dụ chi phí cụ thể nhé! #VastAI #AI #đám_mây #giá #cloudcomputing

https://www.reddit.com/r/LocalLLaMA/comments/1qh0ytv/whats_the_real_price_of_vastai/

Vast.ai cho phép thuê PC, có lợi nhuận không? Ryzen 7 5700, 24GB RAM, 3080. An toàn không? #vastai #thuêpc #tiềnđiện tử # sécurité #mạng lưới #selfhosted #đ(Utils086 raj #thuê_máy_tính

https://www.reddit.com/r/selfhosted/comments/1op75um/does_anyone_know_about_vastai/

Fellow #hashtopolis users, here's a quick script to get your remote agents setup and running in one easy step.
https://forum.hashpwn.net/post/196

#hashpwn #hashcat #hashcracking #vastai

If anyone here has actually gotten #Dreambooth to run - either locally on <12GB, or on a #collab - please let me know. I've wasted too much of my life already on this :Þ

Collab:

GPU available: True, used: True
...
CUDA_VISIBLE_DEVICES: [0]

Local:

RuntimeError: CUDA error: CUBLAS_STATUS_EXECUTION_FAILED when calling `cublasLtMatmul

#CUDA #VastAI #GoogleCollab #StableDiffusion