为什么一份关于Anthropic自动化AI开发的新报告令研究人员感到担忧
AI 摘要
METR对Anthropic为期11周的独立评估显示,其AI模型改进速度约为一年前的两倍,过去一年取得相当于历史上两年的进展,且加速主要归因于AI而非算力扩张。员工自报使用内部模型后生产力约为无AI辅助时的12倍。Anthropic已完成三款未公开模型训练,并允许对报告大量涂黑,METR称最具信息价值的证据多被删减,引发对透明度与独立监督的质疑。报告加剧了外界对该公司一边呼吁放缓AI开发、一边全速推进的批评,并引发对递归自我改进可能早于预期的担忧。
评论