新的OpenAIGPT-4服务将帮助发现ChatGPT编码建议中的错误
发布时间：2024-10-15 15:03:07来源：
为了提高生成式AI工具对开发人员的实用性，OpenAI推出了CriticGPT，这是一种新模型，据称可以帮助识别ChatGPT代码输出中的错误。
OpenAI声称，基于GPT-4，CriticGPT能够在60%的时间内超越无人协助的努力，表明其能够提高人类在代码审查任务中的表现，而不是取代人类工人。
OpenAI的计划旨在改进“从人类反馈中进行强化学习”(RLHF)流程，以确保人工智能系统具有更高的质量和更高的可靠性。
OpenAI的最新GPT-4系列为ChatGPT的公开版本提供支持，它高度依赖RLHF来确保其输出既可靠又具有交互性。到目前为止，这个过程一直是手动的，依赖于人工智能训练师的人力，他们对ChatGPT的响应进行评分，以提高模型的性能。
随着CriticGPT的推出，OpenAI现在可以自主批评ChatGPT的答案，这解决了人们对AI聊天机器人对于许多人类训练者来说过于复杂的担忧。
CriticGPT的训练由训练员进行，他们在ChatGPT生成的代码中故意插入错误并提供反馈。结果令人鼓舞，由于该工具能够减少挑剔和幻觉，大约三分之二(63%)的训练员更喜欢CriticGPT的批评。
然而，该项目并非没有局限性，事实证明，人工智能与人类的协作比单纯的人工智能更有效。
免责声明：本答案或内容为用户上传，不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，请读者仅作参考，并请自行核实相关内容。 如遇侵权请及时联系本站删除。
