Razer trình diễn thùng “AI accelerator” tích hợp bộ xử lý Wormhole n150 của Tenstorrent tại CES. Thiết bị dự kiến là bo mạch PCIe 12 GB, giá khoảng 1.000 USD, nhưng chưa có đánh giá hiệu năng thực tế. #Razer #AI #Tenstorrent #CES #AIAccelerator #TríTuệNhânTạo #CôngNghệ

https://www.reddit.com/r/LocalLLaMA/comments/1q617ug/razer_is_demonstrating_a_ai_accelerator_box_with/

Tenstorrent Blackhole p150a: khả năng tính toán mạnh, 32GB "VRAM", kết nối tốt, giá cả hợp lý, dưới nửa giá của Nvidia 5090. #Tenstorrent #Blackhole #GPU #Nvidia #Tecnology #CôngNghệ #TríTuệNhânTạo #AI

https://www.reddit.com/r/LocalLLaMA/comments/1p5092p/what_do_we_think_of_tenstorrent_blackhole_p150as/

Tenstorrent decided to publish the first benchmark data for Ascalon's RVV implementation using the instruction throughput benchmark of my rvv-bench benchmark suite. <3

https://camel-cdr.github.io/rvv-bench-results/tt_asc_x/index.html

Overall, the results look really good so far:
* Most instructions have an inverse throughput of 0.5/0.5/2/4 for LMUL=1/2/4/8, even vslide1up/down, 64-bit vmulh, viota, vpopc and integer reductions
* 0.5/0.5/2/4 for vector-scalar/immediate compares (0.5/2/4/8 for vector-vector) and 0.5/1/2/- for narrowing instructions (see "Microarchitecture speculations" section)
* dual-issue vrgather, with good scaling: 0.5/1/8/30
* dual-issue vcompress, with OK scaling: 0.5/3/6/17 (I still think this could get close to linear)
* Fault-only-first loads seem to have no overhead
* Segmented load/stores look quite fast, even the more exotic ones like seg7
* Ovlt behavior isn't supported, but I don't really care much about it

#rvv #simd #riscv #tenstorrent

Карты Tenstorrent для DIY-сервера с локальной LLM

В апреле 2025 года компания Tenstorrent начала принимать заказы на PCIe-карты Blackhole и Wormhole (на фото). Ускорители TPU на открытой архитектуре RISC-V с 28−32 ГБ видеопамяти предназначены непосредственно для разработчиков, которые желают запускать LLM на домашнем ПК или небольшом DIY-сервере. Это реальная альтернатива в сегменте, где пока доминирует Nvidia. Во главе Tenstorrent стоит легендарный инженер Джим Келлер , ветеран Intel и AMD, создатель микроархитектуры AMD Zen и соавтор x86-64 . Благодаря радикальной открытости своих решений Tenstorrent уже привлекла небольшую армию фанатов среди LLM-энтузиастов.

https://habr.com/ru/companies/ruvds/articles/924240/

#gpu #tenstorrent #tpu #llm #ruvds_статьи

Карты Tenstorrent для DIY-сервера с локальной LLM

В апреле 2025 года компания Tenstorrent начала принимать заказы на PCIe-карты Blackhole и Wormhole (на фото). Ускорители TPU на открытой архитектуре RISC-V с 28−32 ГБ видеопамяти предназначены непосредственно для разработчиков, которые желают запускать LLM на домашнем ПК или небольшом DIY-сервере. Это реальная альтернатива в сегменте, где пока доминирует Nvidia. Во главе Tenstorrent стоит легендарный инженер Джим Келлер , ветеран Intel и AMD, создатель микроархитектуры AMD Zen и соавтор x86-64 . Благодаря радикальной открытости своих решений Tenstorrent уже привлекла небольшую армию фанатов среди LLM-энтузиастов.

https://habr.com/ru/companies/ruvds/articles/924240/

#gpu #tenstorrent #tpu #llm #ruvds_статьи