“Seek and You Shall SOC”：将人类专业知识与多模态生成式人工智能相结合，以实现可扩展的威胁防御

《ACM Transactions on Internet Technology》：Seek and You Shall SOC: Blending Human Expertise with Multimodal Generative AI for Scalable Threat Prevention

提出一种结合多模态LLMs和人工审定参考的混合推理流程，通过多视角爬取、确定性提示和结构化覆盖机制解决SOC中LLMs的覆盖不全、幻觉及冗余问题，实验显示该方法提升诈骗检测准确率达30%，降低token成本40%，减少误导输出并优于RAG和传统基线。

　　

摘要AI摘要

要查看此由AI生成的摘要，您必须具有高级访问权限。

了解更多登录

摘要

摘要

大型语言模型（LLMs）在安全运营中心（SOCs）中得到了越来越广泛的应用，包括用于数字风险保护（DRP）的SOCs，但它们的输出往往存在覆盖范围不全面、产生幻觉性内容、冗长以及缺乏针对性见解等问题。本文提出了一种混合推理流程，该流程将多模态LLMs与稳定的人工策划参考信息相结合，以缓解这些问题。这种流程与传统的检索增强生成方法不同，因为它在决策时明确应用人工策划的参考信息作为覆盖，而不仅仅是作为辅助性的检索背景。我们介绍了一个逐步的过程，包括多视角爬取以识别规避性内容、使用确定性提示来管理不一致性，以及当本地品牌知识与全局假设相矛盾时对模型分类进行覆盖或调整的结构化方法。此外，还包含一个由分析师管理的升级机制，用于记录在外部SOC DRP环境中何时以及为何会进行覆盖操作。通过对多家商业和开源模型提供商的实证评估表明，该方法显著提高了诈骗检测的准确性，通过缓存降低了Token成本，并通过采用策划好的领域数据减少了误导性输出。结果表明，离线参考信息的引入促进了自动化任务与人类专业知识的可靠协作，从而增强了实际SOC环境中的可扩展性和可信度。

AI摘要

AI生成的摘要（实验性)

此摘要是使用自动化工具生成的，未经过文章作者的撰写或审核。提供该摘要的目的是为了帮助读者发现内容的相关性，并协助来自相关研究领域的读者理解本文的工作。它旨在补充作者提供的摘要，后者仍是文章的正式总结。完整文章才是权威版本。点击此处了解更多。

点击此处对摘要的准确性、清晰度和实用性进行评论。您的反馈将有助于改进未来的版本。

要查看此由AI生成的简单语言摘要，您必须具有高级访问权限。