Вызов инструментов: выбор делает модель, выполняет программа

При вызове инструментов (function calling) модель вместо текста ответа указывает имя инструмента и аргументы в структурированном виде, например {"vosita": "qosh", "args": [2, 3]}. Программа читает этот текст, запускает нужную функцию и возвращает результат модели.

import json

def qosh(a, b):
    return a + b

chaqiriq = json.loads("""{"vosita": "qosh", "args": [2, 3]}""")
print(qosh(*chaqiriq["args"]))

Результат5

В примере ниже json.loads превращает текст вызова в словарь, а * передаёт значения из списка в функцию как отдельные аргументы. Если инструменты хранятся в словаре, их легко находить по имени.

Безопасность: выполняйте только заранее зарегистрированные инструменты; неизвестное имя отклоняйте. Никогда не выполняйте без разрешения действия, не относящиеся к вызванной функции (например, удаление файлов).