在自动化和人工智能日益占据主导地位的时代，将人类集成到通常称为�人在环�(HITL) 的算法工作流程中对于确保高风险领域的安全性、准确性和问责制仍然至关重要。从医疗保健诊断和自动驾驶到国防和金融欺诈检测，HITL 工作流程将机器的效率与人类的判断和直觉结合起来。本文探讨了关键任务应用程序中 HITL 系统的原理、架构和实际实现。
人在环 (HITL) 是指将人类反馈嵌入到计算工作流程中的系统。与完全自主的系统不同，HITL 工作流程在机器学习或基于规则的系统的训练、验证或操作阶段纳入了人类决策。
HITL workflows involve continuous feedback from humans to machines.该反馈可能包括模型预测的修正、模糊情况的验证或为再训练提供额外的数据点。
Effective HITL systems rely on intuitive user interfaces and platforms that allow humans to easily interact with model outputs. Tools like Labelbox, Prodigy, Snorkel, and custom dashboards are commonly used.
AI models assist in diagnosing diseases from radiology images or pathology slides. Human radiologists or pathologists review and approve AI predictions, improving sensitivity while reducing false positives.
Although self-driving cars aim for full autonomy, human oversight remains crucial. Human supervisors intervene in remote operations or ambiguous traffic scenarios and contribute to retraining edge-case behaviors.
AI systems flag potentially fraudulent transactions.人工分析师会在账户被冻结或联系客户之前审查这些标志，以确保合法活动不会被错误地中断。
Autonomous systems in warfare must adhere to ethical standards and legal frameworks. Humans validate or override targeting decisions made by AI to prevent unauthorized engagement.
人工智能工具支持文档发现和预测性警务。人类法律专家确保决策符合具体情况、合法且公平，从而减少算法偏差。
将机器速度与人类判断相结合可显着降低出现严重错误的可能性，尤其是在模糊或新颖的场景中。
人类反馈支持主动学习和半监督学习策略，加速模型训练和适应性。
HITL 工作流程提供了�人性化�，这对于在可解释性和问责制不可协商的领域赢得利益相关者的信任至关重要。
人类可以解释背景并应用道德判断，有助于防止纯粹统计或基于规则的方法可能产生的不道德决策。
将人类引入循环会显着减慢决策速度。在实时系统中必须仔细平衡这种权衡。
人类审查大量人工智能生成的输出可能会感到疲劳或决策瘫痪，随着时间的推移，准确性会降低。
对于大型系统来说，依赖人工输入成本高昂且难以扩展，特别是在实时出价或交易等高频或大容量场景中。
HITL 系统的有效性取决于人类参与者。确保他们接受足够的培训和领域知识对于保持质量至关重要。
用于实时应用程序，在对最终输出采取行动之前需要人工批准。示例：实时视频监控标记可疑活动。
人类在事件后审查输出以提高未来的绩效。示例：放射科医生确认最初由人工智能系统标记的诊断。
人类仅标记最不确定或最有影响力的数据样本，从而显着降低注释成本，同时最大限度地改进模型。
HITL 系统可以实施分层响应机制，仅将高风险或不明确的案例升级给人类专家。
衡量人类审阅者同意基本事实或改进机器预测的频率。
跟踪处理决策所需的时间，从模型输出到人类行为，尤其是在实时应用程序中。
评估模型在合并人工标记数据时的改进速度。
了解将人员纳入循环的成本是多少，以及该成本是否可以通过性能提升或风险缓解来证明合理。
HITL 工作流程允许组织将责任分配给人员，确保决策的可追溯性。
在金融、医疗保健和国防等领域，法规通常要求人员参与决策过程（例如 GDPR 的�解释权�）。
人类审阅者可以检测并纠正机器输出中嵌入的偏见，尽管他们也可能引入新的偏见。
谷歌针对糖尿病视网膜病变的深度学习模型最初在现实世界的诊所中并不准确。将人工验证引入诊断循环可以提高现实世界的实用性并减少误报。
具有人类反馈的强化学习 (RLHF) 用于微调 ChatGPT 等大型语言模型，以使输出与人类价值观和期望保持一致。
Palantir 将人类分析师整合到其人工智能决策过程中，使案件官员能够调查被标记的个人，同时保持法律监督。
未来的系统将自适应地确定何时需要人工输入，并使用元学习和上下文感知触发器来平衡效率和准确性。
改进的用户体验和可视化工具将使人类审查者能够理解模型推理，使他们成为更有效的验证者和纠正者。
在资源有限的环境中（例如无人机、卫星），人类监督可以异步或通过增强现实界面进行。
人在环工作流程不是妥协，而是生命、权利或重要资产受到威胁的关键应用程序的必要条件。这些工作流程结合了人类最好的认知和人工智能，产生的系统不仅高效，而且值得信赖和负责。随着我们迈向更加自动化的世界，将人类专业知识智能地集成到人工智能系统中将成为成熟且符合道德的技术部署的一个决定性特征。
