端侧推理正当时：隐私、延迟、成本与续航把 AI 推向 NPU

Laurence Moroney 指出，隐私、延迟、成本和电池续航正共同推动 AI 推理走向端侧，NPU 的成熟终于让本地推理变得实用。他认为当下真正重要的技能，是判断工作负载中哪些部分该留在云端、哪些该放到设备上。