它还介绍了将绊线与极限评估相结合的想法：原则上，极限评估是对可以运行并用于关键决策的相关 AI 能力的最艰难的评估。如今，大多数人工智能评估都侧重于比造成灾难性风险所需的任务容易得多的任务；这些任务在今天能够提供保证，但随着人工智能能力的提高，这些任务可能还不够。极限评估可能是一项任务，例如人工智能模型引导业余爱好者完成一项。安全）任务，这项任务与生产大规模杀伤性化学或生物武器一样困难——运行起来困难且成本高昂，但与所讨论的绊网能力紧密相关。
极限评估可能有助于（a）在人工智能能力快速发展时提供 马来西亚 whatsapp 后备测试；（b）为更便宜、更实用的评估设计提供明确的目标（人工智能模型未能通过更便宜的评估应该是它也会未能通过极限评估的有力证据）。这里提供的草图只是一个草图。它没有深入分析任何特定的人工智能风险或绊网。随着人工智能能力的快速发展，关键参与者正在采取动态、迭代的方法来解决绊线问题：2 做出有根据的猜测，确定在哪里以及如何设置绊线，根据猜测设计政策和评估，并随着时间的推移完善每个部分。
由于人工智能公司在扩大系统规模之前不会等待深入的成本效益分析或共识，析或共识来规划和承诺风险缓解措施。本文对候选绊线的分析比之前关于绊线的提案中提供的更多，但也故意没有给出明确的结论。进一步的分析可能会削弱使用任何这些绊线的理由，或揭示应该使用的其他绊线。这里的目标不是结束关于绊线应该在哪里的讨论，而是引发讨论。本文将：讨论绊线和“如果-那么”承诺发展中的当前背景：迄今为止已经做了什么，以及还有哪些步骤可以建立一个强大的框架来降低人工智能的风险。制定良好绊线的候选标准：绊线与合理的威胁模型相连。