IIT 马德拉斯教授：AI 从答题走向代理行动，安全护栏必须跟上

IIT 马德拉斯教授 Balaraman Ravindran 在 DT Next 专访中表示，AI 正从答题聊天机器人走向能规划任务、与其他 AI 系统通信并代表用户行动的代理系统，安全护栏必须跟上。他强调 AI 系统意外行为哪怕导致一条人命损失代价都太高，主张用 AI harness 和窄域定制方案约束行为边界。采访还涉及印度语言模型与 IIT-M 的 AI Studio。