tiny-agents

tiny-agents предлагает минимальный шаблон для создания агентов, использующих инструменты. Небольшой цикл на Python связывает MCP-клиент с инструментами MCP-серверов. Hugging Face Spaces могут работать в качестве MCP-серверов. Больше совместимых Spaces можно найти на Hub.

Создайте файл конфигурации, указывающий на вашу локальную модель и сервер инструментов. В этом примере используется Space для генерации изображений.

{
    "model": "Menlo/Jan-nano",
    "endpointUrl": "http://localhost:8000",
    "servers": [
        {
            "type": "sse",
            "url": "https://huggingface.co/proxy/evalstate-flux1-schnell.hf.space/gradio_api/mcp/sse"
        }
    ]
}

Запустите агента с вашим конфигурационным файлом.

tiny-agents run path/to/your/config.json

Убедитесь, что transformers serve запущен в фоновом режиме. Агент будет использовать вашу локальную модель для запуска инструмента генерации изображений.

Agent loaded with 1 tools:
 • flux1_schnell_infer
»  Generate an image of a cat on the moon
<Tool req_0_tool_call>flux1_schnell_infer {"prompt": "a cat on the moon", "seed": 42, "randomize_seed": true, "width": 1024, "height": 1024, "num_inference_steps": 4}

Tool req_0_tool_call
[Binary Content: Image image/webp, 57732 bytes]
The task is complete and the content accessible to the User
Image URL: https://huggingface.co/proxy/evalstate-flux1-schnell.hf.space/gradio_api/file=/tmp/gradio/3dbddc0e53b5a865ed56a4e3dbdd30f3f61cf3b8aabf1b456f43e5241bd968b8/image.webp
380576952

I have generated an image of a cat on the moon using the Flux 1 Schnell Image Generator. The image is 1024x1024 pixels and was created with 4 inference steps. Let me know if you would like to make any changes or need further assistance!

Update on GitHub

Transformers

tiny-agents