AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容

admin 2026-05-07 13:50:05

<article><section data-type="rtext"><p>【环球网科技综合报道】5月7日消息，据The Verge报道，最新安全研究显示，主打安全特性的 Anthropic Claude 人工智能模型，可通过心理施压、刻意奉承等非技术手段突破安全防线，主动输出恶意代码、危险物品制作教程等违禁信息，暴露出人工智能模型在心理层面的安全漏洞。</p><p>此次测试由人工智能红队测试公司 Mindgard 开展，针对 Claude Sonnet 4.5 版本进行。测试过程中，研究人员未使用违禁词汇，也未直接索要非法内容，仅通过尊重吹捧、佯装好奇、轻微心理操控等审讯人员常用的诱导手段，逐步让模型对自身内容限制规则产生自我怀疑，进而不断突破安全边界。</p><p><i class="pic-con"></p><p>Mindgard 创始人兼首席科学官彼得・加拉根表示，此次攻击本质是利用 Claude 乐于助人、顺从协作的特性实施心理操控，印证人工智能模型风险暴露面不仅存在于技术层面，更存在于心理层面。这类对话式心理攻击极难防御，且并非 Claude 独有，其他聊天机器人也易遭遇同类漏洞攻破，随着 AI 智能体普及，依托社会心理操控的攻击手段将愈发常见。</p>
              <adv-loader __attr__inner="7004636" __attr__style="width: auto;position: relative;float: left;border: 1px solid #ebebeb; padding: 20px;overflow: hidden;margin: 10px 30px 40px 0;"></adv-loader>
            <p>值得关注的是，Anthropic 长期以 AI 安全为核心优势，在过往多项红队安全测试中表现优异，但此次测试暴露其安全流程存在疏漏。Mindgard 于 4 月中旬按该公司漏洞披露政策上报发现后，仅收到模板化回复，且被误判为账号封禁咨询，截至相关时间节点仍未获正式回应。（纯钧）</p></section><img src='/image/153844-0' alt='AI安全防线再遭突破：心理诱导让Claude主动输出违禁内容'>        
        <div class="a-back"> <a href="/" class="a-1">返 回</a> </div>
    </div>
    <div class="prev-next">
                <p class="page"><a href="/detail/27247.html" title="废铜的分类有哪些？"> 上一篇 : 核武器真的有宣传中那么牛逼吗？ </a></p>
        <p class="page"><a href="/detail/27442.html" title="废铜的分类有哪些？"> 下一篇 : 为什么买了Switch后，却发现它并没有那么好玩？ </a></p>

</div>
  </section>
</article>
<footer>
  <div class="footer-to-top"> <span>TOP</span> <i><img src="/template/moban91/picture/footer-to-top.png"></i> </div>
  <div class="footer-t">
    <div class="container">
      <div class="footer-t-l">
        <div class="footer-share"> <a class="a-share-wx" href="javascript:;">
          <img src="/template/moban91/picture/wx-icon.png"> </a> <a href="https://weibo.com/" target="_blank"><img src="/template/moban91/picture/2017-12-01-18-03-45.png"></a> </div>
      </div>
      <div class="footer-t-r">         <form class="footer-email" method="POST"  enctype="multipart/form-data"  action="/28585/index.php?m=home&c=Lists&a=gbook_submit&lang=cn"  onsubmit="return submita5fac9ea97ce7351af2272c5cfa3b4ac(this);">
          <h3>动态订阅</h3>
          <div class="email-set">
            <input id="attr_9" type="text" name="attr_9" placeholder="电子邮箱">
            <label class="email-logo" for="subscription"><img src="/template/moban91/picture/text-email.png"></label>
            <button onclick="fom"><img src="/template/moban91/picture/footer-submit.jpg"></button>
          </div>
          <input type="hidden" name="gourl" id="gourl_a5fac9ea97ce7351af2272c5cfa3b4ac" value="/" /><input type="hidden" name="typeid" value="19" /><input type="hidden" name="__token__a5fac9ea97ce7351af2272c5cfa3b4ac" id="a5fac9ea97ce7351af2272c5cfa3b4ac" value="" /><script type="text/javascript">
    function submita5fac9ea97ce7351af2272c5cfa3b4ac(elements)
    {
        if (document.getElementById('gourl_a5fac9ea97ce7351af2272c5cfa3b4ac')) {
            document.getElementById('gourl_a5fac9ea97ce7351af2272c5cfa3b4ac').value = encodeURIComponent(window.location.href);
        }
            var x = elements;
    for (var i=0;i<x.length;i++) {
        
                            if(x[i].name == 'attr_8' && x[i].value.length == 0){
                                alert('电话不能为空！');
                                return false;
                            }
                        
    }
        
        elements.submit();
    }

function ey_fleshVerify_1657099799(id)
    {
        var token = id.replace(/verify_/g, '__token__');
        var src = "/28585/index.php?m=api&c=Ajax&a=vertify&type=guestbook&lang=cn&token="+token;
        src += "&r="+ Math.floor(Math.random()*100);
        document.getElementById(id).src = src;
    }

if (level == 1){
            if (second) {
                second.style.display = 'none';
                second.innerHTML  = ''; 
            }
            if (third) {
                third.style.display = 'none';
                third.innerHTML  = '';
            }
            findex = first.selectedIndex;
            fvalue = first.options[findex].value;
            input.value = fvalue;
            value = fvalue;
        } else if (level == 2){
            if (third) {
                third.style.display = 'none';
                third.innerHTML  = '';
            }
            findex = first.selectedIndex;
            fvalue = first.options[findex].value;
            sindex = second.selectedIndex;
            svalue = second.options[sindex].value;
            if (svalue) {
                input.value = fvalue+','+svalue;
                value = svalue;
            }else{
                input.value = fvalue;
            }
        } else if (level == 3){
            findex = first.selectedIndex;
            fvalue = first.options[findex].value;
            sindex = second.selectedIndex;
            svalue = second.options[sindex].value;
            tindex = third.selectedIndex;
            tvalue = third.options[tindex].value;
            if (tvalue) {
                input.value = fvalue+','+svalue+','+tvalue;
                value = tvalue;
            }else{
                input.value = fvalue+','+svalue;
            }
        } 
        if (value) {
            if(document.getElementById(id))
            {
                document.getElementById(id).options.add(new Option('请选择','')); 
                var ajax = new XMLHttpRequest();
                //步骤二:设置请求的url参数,参数一是请求的类型,参数二是请求的url,可以带参数,动态的传递参数starName到服务端
                ajax.open("post", "/28585/index.php?m=api&c=Ajax&a=get_region", true);
                // 给头部添加ajax信息
                ajax.setRequestHeader("X-Requested-With","XMLHttpRequest");
                // 如果需要像 HTML 表单那样 POST 数据，请使用 setRequestHeader() 来添加 HTTP 头。然后在 send() 方法中规定您希望发送的数据：
                ajax.setRequestHeader("Content-type","application/x-www-form-urlencoded");
                //步骤三:发送请求+数据
                ajax.send("pid="+value);
                //步骤四:注册事件 onreadystatechange 状态改变就会调用
                ajax.onreadystatechange = function () {
                    //步骤五 如果能够进到这个判断 说明 数据 完美的回来了,并且请求的页面是存在的
                    if (ajax.readyState==4 && ajax.status==200) {
                        var data = JSON.parse(ajax.responseText).data;
                        if (data) {
                            data.forEach(function(item) {
                                document.getElementById(id).options.add(new Option(item.name,item.id)); 
                                document.getElementById(id).style.display = "block";
                            });
                        }
                  　}
                }
            }
        }
    }
</script>        </form>
         </div>
    </div>
  </div>
  <div class="footer-b">
    <div class="container">
      <div class="footer-b-l">
        <p><a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank"></a></p>
      </div>
      <div class="to-top"> <span>TOP</span> <i><img src="/template/moban91/picture/top.png"></i> </div>
    </div>
  </div>
</footer>
 
<script src="/template/moban91/js/jquery.min.js"></script> 
<script src="/template/moban91/js/jquery.easing.min.js"></script> 
<script src="/template/moban91/js/stellar.js"></script> 
<script src="/template/moban91/js/swiper.jquery.min.js"></script> 
<script src="/template/moban91/js/common.js"></script>
</body>
</html>