Ivan Fioravanti ᯅ (@ivanfioravanti)

ToolCall-15에 mlx와 LM Studio 제공자가 추가되고, 추론 옵션과 배치 호출 기능이 도입됐다. 로컬 모델 실행과 도구 호출 워크플로를 개선하는 업데이트로 보이며, AI 개발자들이 더 유연하게 inference 설정을 조정하고 대량 요청을 처리할 수 있게 된다.

https://x.com/ivanfioravanti/status/2037119070474998259

#tooling #inference #llm #lmstudio #mlx

Ivan Fioravanti ᯅ (@ivanfioravanti) on X

Here it is: ToolCall-15 with mlx and @lmstudio providers added, together with inference options and batched calls. In the screenshot same run but with different config settings. PR sent @stevibe you are the boss so feel free to choose the fate of it. 🚀

X (formerly Twitter)