Ultralytics (@ultralytics)
Ultralytics YOLO26 모델을 Python 코드로 로드한 뒤 TensorRT 엔진(.engine)으로 export하고 다시 불러오는 예시를 공유. 실전 배포에서 추론 최적화 파이프라인을 구성할 때 바로 참고할 수 있는 코드 스니펫.
@nvidia Code 👇 """"""" from ultralytics import YOLO # Load the YOLO26 model model = YOLO("https://t.co/uEGGQDrLbd") # Export the model to TensorRT format # creates 'yolo26n.engine' model.export(format="engine") # Load the exported TensorRT model tensorrt_model =
Ultralytics (@ultralytics)
Ultralytics가 YOLO26 모델을 ONNX로 내보내어 유연한 배포를 지원한다고 발표했다. TensorRT, OpenVINO, ONNX Runtime 등 다양한 프레임워크에서 추론할 수 있어 엣지·클라우드·프로덕션 환경 전반에 최적화된 성능을 제공한다는 점이 핵심이다.
Export Ultralytics YOLO26 models to @ONNX for flexible deployment! 🔄 Run inference across frameworks like TensorRT, OpenVINO, and ONNX Runtime, enabling optimized performance for edge, cloud, and production environments. Learn more ➡️ https://t.co/G2Ncm48cif #Ultralytics
ComfyUIをTensorRTで爆速化！LoRAもAnima2Bも自由に使えるカスタムノード『ComfyUI-TensorRT-Reforge』を作ってみた
https://qiita.com/zaochuan5854/items/f7b625bb9df5f4742b61?utm_campaign=popular_items&utm_medium=feed&utm_source=popular_items
Ultralytics (@ultralytics)
Ultralytics v8.4.22가 출시되었습니다. 이번 릴리스는 Huawei Ascend NPU 지원 추가, ONNX 및 TensorRT 내보내기 보안성 향상, 다중 GPU DDP 분산 학습의 신뢰성 개선 등을 포함합니다. YOLO 관련 워크플로우에서 NPU 가속 및 모델 변환/배포 안정성이 향상되어 연구·개발과 실운영 환경에서 활용도가 높아집니다.
New research shows TensorRT Edge‑LLM can run chain‑of‑thought reasoning directly on devices, boosting physical AI tasks like autonomous‑vehicle perception and MATH500 benchmarks. Efficient, on‑device inference means smarter, safer robots without cloud latency. Dive into the details of this breakthrough for on‑device language models. #TensorRT #EdgeLLM #ChainOfThought #PhysicalAI
🔗 https://aidailypost.com/news/tensorrt-edgellm-enables-efficient-chainofthought-processing-physical
Abhishek Yadav (@abhishek__AI)
PersonaLive는 단일 이미지를 실시간으로 무한 길이의 표현력 있는 애니메이션 토킹헤드 비디오로 변환하는 오픈 소스 프로젝트입니다. ComfyUI 지원, 실시간 디퓨전 프레임워크, 12GB VRAM 스트리밍 지원, WebUI 제공 및 TensorRT를 활용해 약 2배 빠른 성능을 목표로 합니다. 라이브 스트리밍용 실시간 애니메이션/아바타 제작에 유용한 개발 도구입니다.
Live portrait anime just went real time 🤯 PersonaLive turns a single image into infinite length, expressive talking head video for live streaming. → ComfyUI support → Real time diffusion framework → 12GB VRAM streaming support → WebUI and TensorRT (~2x faster) 100% Open
Edje Electronics (@EdjeElectronics)
@ultralytics가 YOLO26을 발표했습니다. YOLO11보다 빠르고 정확하다고 소개하며 NVIDIA Jetson Orin Nano에서 실행하는 방법을 안내합니다: Orin Nano에 Ultralytics 설치, YOLO26을 TensorRT 형식으로 변환, 라이브 USB 카메라로 실행하는 절차와 관련 문서 링크를 포함합니다.
(1/2) 🔥🔥 @ultralytics just released YOLO26! It's faster and more accurate than YOLO11. See how to run YOLO26 on the @NVIDIA Jetson Orin Nano: 🖥️Install Ultralytics on Orin Nano 🧠Convert YOLO26 to TensorRT format 📸Run on live USB camera Learn more: https://t.co/t61eBpe01g
Под капотом современных AI-систем: разбираем железо
Как объединить по сети вычислители? Что происходит при компиляции кода для железа под капотом и какие есть нюансы при работе с AI в пространстве ядра? ИИ с ноги ворвался во все сферы разработки, работы — вагон и маленькая тележка. Но на чём и как она должна ехать? У каждой программы есть свои требования, универсальных советов нет. О новых решениях можно будет узнать на конференции
https://habr.com/ru/companies/oleg-bunin/articles/968426/
#разработка #конференция #ии #ai #компиляторы #rust #tensorrt #нейросети #архитектура #архитектура_приложений
Lời khuyên về card đồ họa 5070 ti và 5060 ti 16 GB cho TensorRT/VLLM. Có thể thêm 5060 ti để tăng VRAM cho mô hình safetensor? #TensorRT #VLLM #CardĐồHọa #AI #MachineLearning #TríTuệNhânTạo #LờiKhuyên #CôngNghệ
sayzard
Qiita - 人気の記事
AI Daily Post
Ramon
Habr
Reddit Tech VN Bot