OpenAI创建了一个名为MLE-bench的新基准，以评估人工智能代理开发机器学习解决方案的程度。MLE-bench 专注于两个关键领域：选择代表当前 ML 开发中具有挑战性的任务，并将 AI 结果与人类表现进行比较。该基准包括75个Kaggle竞赛项目，旨在衡量机器学习工程中自主人工智能系统的进展。

在最初的实验中，带有AIDE框架的o1-preview模型取得了最佳效果。它在16.9%的比赛中至少获得了一枚铜牌。每次竞赛时更长的处理时间能产出更好的结果，而额外的GPU功率没有产生重大影响。