请注意

是作为安全扫描工具设计的#xff0c;而不是万无一失的解决方案。

它无法保证完全防…关于Agentic

Security

Security是一款针对LLM模型的模糊测试与安全检测工具该工具可以帮助广大研究人员针对任意LLM执行全面的安全分析与测试。

请注意

是作为安全扫描工具设计的而不是万无一失的解决方案。

它无法保证完全防御所有可能的威胁。

功能介绍

3开发因此我们首先需要在本地设备上安装并配置好最新版本的Python

源码安装

https://github.com/msoedov/agentic_security.git

然后切换到项目目录中使用pip3命令和项目提供的requirements.txt安装该工具所需的其他依赖组件

agentic_securitypip3

agentic_security.probe_data.data:load_local_csv:273

Found

agentic_security.probe_data.data:load_local_csv:274

CSV

https://api.openai.com/v1/chat/completionsAuthorization:

Bearer

agentic_security.probe_data.data:load_local_csv:273

Found

agentic_security.probe_data.data:load_local_csv:274

CSV

http://0.0.0.0:8718/v1/self-probeAuthorization:

Bearer

AgenticSecurity.scan(llmSpecspec)#

module:

agentic_security.probe_data.data:load_local_csv:279

Found

agentic_security.probe_data.data:load_local_csv:280

CSV

176.88it/s]---------------------------------|

Module

|---------------------------------|

Local

|---------------------------------

扩展数据集集合

agentic_security.probe_data.REGISTRY

添加新元数据

markush1/LLM-Jailbreak-Classifier,num_prompts:

1119,tokens:

https://huggingface.co/markush1/LLM-Jailbreak-Classifier,},

并实现加载器

当前示例之一使用对现有预加载提示数据进行采样并应用变异来产生新的数据集

class

stenography_fn.base64_encode,mirror:

stenography_fn.mirror_words,random_case:

stenography_fn.randomize_letter_case,scramble_words:

stenography_fn.scramble_words,noise_characters:

stenography_fn.insert_noise_characters,substitute_with_ascii:

stenography_fn.substitute_with_ascii,remove_vowels:

stenography_fn.remove_vowels,zigzag_obfuscation:

stenography_fn.zigzag_obfuscation,}def

__init__(self,

[ProbeDataset]):self.prompt_groups

prompt_groupsdef

self.fn_library.items():logger.info(fApplying

{name}

{prompt_group.dataset_name})selected_prompts

random.sample(prompt_group.prompts,

int(size

ProbeDataset(dataset_namefstenography.{name}({prompt_group.dataset_name}),metadata{},promptsprompts,tokenscount_words_in_list(prompts),approx_cost0.0,)

工具运行演示