为了提高生成式AI工具对开发人员的实用性，OpenAI推出了CriticGPT，这是一种新模型，据称可以帮助识别ChatGPT代码输出中的错误。

OpenAI声称，基于GPT-4，CriticGPT能够在60%的时间内超越无人协助的努力，表明其能够提高人类在代码审查任务中的表现，而不是取代人类工人。

OpenAI的计划旨在改进“从人类反馈中进行强化学习”(RLHF)流程，以确保人工智能系统具有更高的质量和更高的可靠性。

OpenAI的最新GPT-4系列为ChatGPT的公开版本提供支持，它高度依赖RLHF来确保其输出既可靠又具有交互性。到目前为止，这个过程一直是手动的，依赖于人工智能训练师的人力，他们对ChatGPT的响应进行评分，以提高模型的性能。

随着CriticGPT的推出，OpenAI现在可以自主批评ChatGPT的答案，这解决了人们对AI聊天机器人对于许多人类训练者来说过于复杂的担忧。

CriticGPT的训练由训练员进行，他们在ChatGPT生成的代码中故意插入错误并提供反馈。结果令人鼓舞，由于该工具能够减少挑剔和幻觉，大约三分之二(63%)的训练员更喜欢CriticGPT的批评。

然而，该项目并非没有局限性，事实证明，人工智能与人类的协作比单纯的人工智能更有效。