tiiny.ai：面向本地大模型的袖珍边缘 AI 硬件

本地大语言模型的运行载体正在向更微型的物理实体收缩。tiiny.ai 尝试将边缘计算与端侧推理封装进极小尺寸的微型硬件中，让轻量模型脱离云端独立运转。算力与功耗之间的折中依旧分明，但也为离线智能提供了一种可以摆在桌面上的具体形态。