工程师让果蝇大脑审代码,准确率 88%,碰上难题全军覆没

AI资讯8分钟前发布 Scrimp
1.1K 0

WorkOS 工程师 Nick Nisi 拿谷歌公开的雄性果蝇大脑图谱,176422 个神经元,让它在笔记本上跑了起来,然后叫它审 PR。

果蝇不识字,所以中间垫了一层。一个辅助模型针对每处代码改动回答 30 个描述性问题,答案加上改动里的标识符被转成一种“气味”,喂给果蝇的嗅觉回路。训练靠真实测试:能复现的回归是苦味,无害改动是糖。闻完之后如果吻管伸出来,就算批准。

在 301 个没见过的改动上,它答对了 88.3%,抛硬币是 50%。

别急着惊叹。同样的气味数据喂给一个普通统计分类器,得分是 94.8%,果蝇并没赢。换一组更难的测试,24 个本来就该改变代码行为的任务,它一个正确改动都没批准。它学会的是“行为有没有变”,判断不了“这个变化对不对”。

这恰好是代码审查最难的那部分,也是很多自动化工具卡住的地方。

所以这基本算一个好玩的工程玩笑,顺带提醒大家,“准确率 88%”这种数字要看它和什么比、在什么题上测。项目网站开放试用,公开 PR 可以直接贴,据说带 token 的话这只果蝇还能把审查意见留到 PR 上。

© 版权声明

相关文章

工程师让果蝇大脑审代码,准确率 88%,碰上难题全军覆没 暂无评论

none
暂无评论...