ihacku

大语言模型在安全领域的思考和尝试 - AI 安全助手

  •  
  •   ihacku · Jun 28, 2023 · 5890 views
    This topic created in 1223 days ago, the information mentioned may be changed or developed.
    8 replies  •  2023-07-01 09:53:05 +08:00
    israinbow
    israinbow
    Jun 28, 2023 via Android
    1
    生成式集成进杀软也许是个好方案,也许很快就能用到人工智能的自动化分析工具了。
    kingnopwang
    kingnopwang
    Jun 28, 2023
    2
    看起来很有趣,用大模型辅助一些安全检测和信息查询。看起来作者使用的是 ChatGPT ,没有选择目前开源的大模型,这个就还面临一些返回结果可靠性的问题。
    ternice
    ternice
    Jun 28, 2023
    3
    很巧我最近也在弄这个,和楼主的思路很一相似。有几个问题一只困扰着我找不到思路:
    ternice
    ternice
    Jun 28, 2023
    4
    1. 怎样让 LLM 根据问题 使用最佳的(最接近真实的) chains 回答问呢?
    2:如果是要去返回如防护数据,那么怎么去处理时间问题。(比如 WAF 攻击是每天会产生,怎么根据用户问题转化成查找,虽然可以使用 SQLchain, 但是有面临第一个问题。怎么区分不同的 SQL 表呢
    ruanjf
    ruanjf
    Jun 29, 2023 via Android
    5
    结合 SD ,想象空间巨大
    eleganceoo
    eleganceoo
    Jun 29, 2023
    6
    牛的,最近也有点想法,哈哈哈哈,原来都在做
    jones2000
    jones2000
    Jun 29, 2023❤️1
    7
    大语言模型只是一个颖上添花的功能, 最终还是要靠在安全领域的深耕。 问题回答的在好,解决不了问题都是白搭。
    另外一个核心的问题就是作为一个安全产品, 你如何确保 ChatGPT 是安全的,回答的是准确的。
    firsthym
    firsthym
    Jul 1, 2023
    8
    关注
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1534 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 32ms · UTC 23:02 · PVG 07:02 · LAX 15:02 · JFK 18:02
    ♥ Do have faith in what you're doing.