Lập Trình Bằng CrewAI & Hermes: Bí Quyết Tối Ưu Token 90%

💡 Điểm Nhấn Trọng Tâm: Lập Trình Với AI Agent & Tối Ưu Token (AI Overview)

• Giới hạn output token: Mặc dù Context Window của LLM hiện nay đạt 1M-2M tokens, giới hạn sinh phản hồi mỗi lần (Output Token Limit) chỉ từ 4.000 đến 8.000 tokens (~400-800 dòng code). Việc ép AI tạo 1 file 10.000 dòng là bất khả thi và vi phạm nguyên tắc thiết kế sạch (God Object).
• Kiến trúc chia để trị (Modular Coding): Chia nhỏ dự án lớn thành 20-50 file module (< 200 dòng/file). AI Agent thực hiện theo quy trình tuần tự (Sequential Process), viết và kiểm thử từng file độc lập.
• Kỹ thuật tiết kiệm 90% token: Tắt tính năng tự giao việc (allow_delegation = False), giới hạn max_iter = 2-3, ép nhiệt độ temperature = 0.0 và áp dụng System Prompt nghiêm ngặt cấm chào hỏi hay giải thích rườm rà.
• Bộ Custom Tools thông minh: Tool Scan Python File Structure chỉ trích xuất chữ ký hàm (signature/docstring) thay vì nạp toàn bộ file, tool Write Code to File tự ghi đĩa và tool Execute Test cắt ngắn log lỗi giúp giảm chi phí token tối đa.

1. Chặn Đệ Trình Chéo (allow_delegation = False)

Mặc định trong CrewAI, các Agent có xu hướng tự động giao việc qua lại cho nhau để thảo luận. Điều này tạo ra các vòng lặp phản hồi vô tận (Infinite Thought Loops), tiêu tốn hàng triệu token chỉ trong vài phút. Bằng cách thiết lập allow_delegation = False, bạn buộc các Agent phải thực hiện nhiệm vụ một cách tuyến tính và độc lập.

2. Giới Hạn Vòng Lặp & Đưa Nhiệt Độ Về 0 (temperature = 0.0)

Thiết lập max_iter = 2 hoặc 3 giúp Agent dừng lại ngay nếu sau 3 lần thử mà không ra kết quả, tránh việc AI tự suy nghĩ luẩn quẩn. Đặt temperature = 0.0 giúp mô hình Hermes phản hồi mang tính quyết định (deterministic), chính xác về cú pháp và không sinh ra các từ nối hay câu từ hoa mỹ thừa thãi.

3. Ép Định Dạng Cốt Lõi Với System Skill (Strict System Prompt)

Cắt bỏ toàn bộ các câu chào hỏi lịch sự của AI như: "Chắc chắn rồi! Dưới đây là đoạn mã Python hoàn chỉnh dành cho bạn…". Sử dụng thẻ <system_skill_rules> để ép Agent chỉ xuất đúng mã nguồn bên trong khối code, mọi ký tự nằm ngoài khối đều bị coi là lỗi hệ thống.

4. Cơ Chế Quét Chữ Ký Hàm (Function Signature Scanning)

Khi Agent B cần gọi hàm từ file của Agent A, không bao giờ nhét toàn bộ nội dung file A vào prompt của Agent B. Hãy dùng một Tool Python chỉ bóc tách các dòng class ...:, def ...: và docstring ngắn gọn. Agent B vẫn biết cách truyền tham số mà tiết kiệm đến 95% token ngữ cảnh.

5. Tự Động Ghi File & Cắt Ngắn Log Lỗi (Error Truncation)

Trang bị cho Agent công cụ ghi trực tiếp mã nguồn xuống ổ cứng đĩa vật lý, loại bỏ bước sao chép thủ công. Khi chạy test có lỗi, chỉ lấy tối đa 15 dòng log Traceback cuối cùng nạp lại cho Agent sửa lỗi thay vì gửi cả nghìn dòng log hệ thống.

# ==============================================================
# HỆ THỐNG LẬP TRÌNH TỰ ĐỘNG HÓA TỐI ƯU TOKEN BẰNG CREWAI & HERMES
# TÍCH HỢP 3 CUSTOM TOOLS: SCAN STRUCTURE, WRITE FILE, RUN TEST
# ==============================================================

import os
import subprocess
from crewai import Agent, Task, Crew, Process, LLM
from crewai.tools import tool

# --------------------------------------------------------------
# 1. TOOL 1: QUÉT CHỮ KÝ HÀM (TIẾT KIỆM ĐẾN 95% TOKEN NGỮ CẢNH)
# --------------------------------------------------------------
@tool("Scan Python File Structure")
def scan_python_structure(file_path: str) -> str:
    """Quét file Python và chỉ trích xuất tên class, hàm để tiết kiệm token."""
    if not os.path.exists(file_path):
        return "Error: File không tồn tại."
        
    summary = []
    with open(file_path, "r", encoding="utf-8") as f:
        for line in f:
            stripped = line.strip()
            if stripped.startswith(("def ", "class ", "@async", "async def ")):
                summary.append(line.rstrip())
                
    return "n".join(summary) if summary else "File trống hoặc không có khai báo hàm."

# --------------------------------------------------------------
# 2. TOOL 2: TỰ ĐỘNG GHI MÃ NGUỒN XUỐNG Ổ CỨNG VẬT LÝ
# --------------------------------------------------------------
@tool("Write Code to Physical File")
def write_code_to_file(file_name: str, code_content: str) -> str:
    """Ghi trực tiếp mã nguồn vào một file vật lý trên đĩa cứng."""
    try:
        clean_code = code_content
        if "```python" in clean_code:
            clean_code = clean_code.split("```python")[1].split("```")[0]
        elif "```" in clean_code:
            clean_code = clean_code.split("```")[1].split("```")[0]
            
        with open(file_name, "w", encoding="utf-8") as f:
            f.write(clean_code.strip())
        return "Thành công: Đã tạo và ghi code vào file " + file_name
    except Exception as e:
        return "Lỗi ghi file: " + str(e)

# --------------------------------------------------------------
# 3. TOOL 3: THỰC THI KIỂM THỬ SUBPROCESS & CẮT NGẮN LOG LỖI
# --------------------------------------------------------------
@tool("Execute Python Test File")
def execute_python_test(file_name: str) -> str:
    """Thực thi file test bằng Python và trả về thông báo lỗi ngắn gọn."""
    try:
        result = subprocess.run(
            ["python", file_name],
            capture_output=True,
            text=True,
            timeout=10
        )
        if result.returncode == 0:
            return "Test Passed 100%! Output: " + result.stdout.strip()
        else:
            # Chỉ lấy tối đa 15 dòng lỗi cuối cùng để tiết kiệm token debug
            error_lines = result.stderr.strip().split("n")[-15:]
            return "Test Thất Bại:n" + "n".join(error_lines)
    except subprocess.TimeoutExpired:
        return "Lỗi: File test chạy quá thời gian quy định (Timeout)."
    except Exception as e:
        return "Lỗi thực thi test: " + str(e)

# --------------------------------------------------------------
# 4. CẤU HÌNH KẾT NỐI FPT AI / HERMES (CHUẨN OPENAI)
# --------------------------------------------------------------
fpt_hermes_llm = LLM(
    model="openai/fpt-hermes-3-8b",
    base_url="https://fpt.ai",
    api_key="YOUR_FPT_AI_KEY",
    temperature=0.0,
    max_tokens=3000
)

SYSTEM_SKILL = """
<system_skill_rules>
- Bạn là một Agent lập trình tối giản. Mỗi ký tự thừa đều làm tăng chi phí token.
1. TUYỆT ĐỐI CẤM các câu chào hỏi, mở đầu, giải thích hay dặn dò.
2. Chỉ xuất ra nội dung cốt lõi đặt trong block code ```.
3. Luôn luôn gọi tool 'Write Code to Physical File' để lưu thành quả ngay khi viết xong.
4. Sử dụng tool 'Scan Python File Structure' để đọc cấu trúc file liên quan.
</system_skill_rules>
"""

# --------------------------------------------------------------
# 5. KHỞI TẠO ĐỘI NGŨ ĐA TÁC NHÂN (CREW AGENTS)
# --------------------------------------------------------------
architect = Agent(
    role="Software Architect",
    goal="Phân rã hệ thống thành các module nhỏ (<200 dòng/file).",
    backstory="Chuyên gia kiến trúc hệ thống thực dụng. Chỉ cung cấp cấu trúc file và hàm.",
    system_template=SYSTEM_SKILL,
    llm=fpt_hermes_llm,
    allow_delegation=False,
    max_iter=2
)

coder = Agent(
    role="Python Coder",
    goal="Viết mã nguồn Python chạy được chuẩn PEP8 và lưu thành file.",
    backstory="Lập trình viên thực chiến. Chỉ xuất code sạch và lưu đĩa.",
    system_template=SYSTEM_SKILL,
    tools=[scan_python_structure, write_code_to_file],
    llm=fpt_hermes_llm,
    allow_delegation=False,
    max_iter=3
)

tester = Agent(
    role="QA Automation Engineer",
    goal="Viết file test và thực thi kiểm thử đảm bảo hệ thống không lỗi.",
    backstory="Kỹ sư kiểm thử phần mềm tự động hóa. Đảm bảo mã nguồn pass 100%.",
    system_template=SYSTEM_SKILL,
    tools=[scan_python_structure, write_code_to_file, execute_python_test],
    llm=fpt_hermes_llm,
    allow_delegation=False,
    max_iter=3
)

# --------------------------------------------------------------
# 6. ĐỊNH NGHĨA QUY TRÌNH TASK TUẦN TỰ (SEQUENTIAL)
# --------------------------------------------------------------
t1 = Task(
    description="Thiết kế cấu trúc module cho hệ thống Quản lý kho hàng (Inventory) bằng Python.",
    expected_output="Danh sách các file cần tạo kèm chữ ký hàm (models.py, services.py).",
    agent=architect
)

t2 = Task(
    description="Viết mã nguồn cho file 'models.py' dựa trên thiết kế và lưu lại.",
    expected_output="Thông báo lưu file models.py thành công.",
    agent=coder
)

t3 = Task(
    description="Dùng tool quét cấu trúc models.py, sau đó viết và lưu file 'services.py'.",
    expected_output="Thông báo lưu file services.py thành công.",
    agent=coder
)

t4 = Task(
    description="Quét cấu trúc hệ thống, tạo file 'test_inventory.py', gọi tool thực thi test đến khi pass 100%.",
    expected_output="Báo cáo kiểm thử không lỗi từ tool execute_python_test.",
    agent=tester
)

crew = Crew(
    agents=[architect, coder, tester],
    tasks=[t1, t2, t3, t4],
    process=Process.sequential,
    verbose=True
)

if __name__ == "__main__":
    crew.kickoff()
    print("n[VẬN HÀNH THÀNH CÔNG] Toàn bộ mã nguồn và bài kiểm thử đã được lưu trên máy của bạn!")

Trang Bị Thiết Bị & Sách Chuyên Ngành Dành Cho Kỹ Sư AI & Lập Trình Viên

Nâng cấp phần cứng máy tính và kiến thức kiến trúc hệ thống để làm chủ kỷ nguyên AI Agents:

1. Tài liệu chính thức CrewAI Framework: Multi-Agent Orchestration & Sequential Processes (docs.crewai.com).

2. Nghiên cứu mô hình ngôn ngữ Nous Research: Hermes 3 Function Calling & Agentic Capabilities (nousresearch.com).

3. Tài liệu chuẩn giao tiếp OpenAI Compatible API: FPT AI Cloud Platform Reference (fpt.ai).

4. Hướng dẫn thiết kế Meta AI: Prompt Caching and Context Optimization for Llama Models (ai.meta.com).

5. Nguyên lý thiết kế phần mềm Martin Fowler: Clean Architecture, Anti-Patterns & Micro-Modules in Software Engineering.