上一节中咱们简单的介绍了一个BabyAgi的首要功用，以及首要功用。没有看过的朋友能够直接点击babyagi: 人工智能使命办理体系前去查看
在本篇中，咱们将深化讨论经过prompt和context约束GPT-4完结的BabyAGI体系的源代码解析与运用。文章将详细介绍BabyAGI的中心组件，如使命履行、使命创立与使命优先级等功用，以及如何结合GPT-4、Pinecone和LangChain等技术完结这一高效的使命驱动智能署理。经过对源代码的分析，咱们将提醒这一体系在处理使命、生成新使命以及实时优先级调整方面的要害技术细节，并讨论潜在的改善和危险。本文旨在帮助读者更好地了解和利用GPT-4的强大功用，以完结多样化的运用场景。
源代码
为了尽量节约篇幅，我这儿就不直接贴源代码了。咱们能够去github上babyagi 查看源代码，其实也就只要一个python文件，200行代码左右，因为现在项目更新的比较快，本文选用的是2023年04月07日的之前的版别进行解读。
首要流程
先给咱们看一下我自己经过阅览源码，整理出来的babyagi履行流程图。这儿咱们先看一下全部流程，先有个形象
首要流程代码如下所示：
# Add the first task
first_task = {
"task_id": 1,
"task_name": YOUR_FIRST_TASK
}
add_task(first_task)
# Main loop
task_id_counter = 1
while True:
if task_list:
# Print the task list
print("\033[95m\033[1m"+"\n*****TASK LIST*****\n"+"\033[0m\033[0m")
for t in task_list:
print(str(t['task_id'])+": "+t['task_name'])
# Step 1: Pull the first task
task = task_list.popleft()
print("\033[92m\033[1m"+"\n*****NEXT TASK*****\n"+"\033[0m\033[0m")
print(str(task['task_id'])+": "+task['task_name'])
# Send to execution function to complete the task based on the context
result = execution_agent(OBJECTIVE,task["task_name"])
this_task_id = int(task["task_id"])
print("\033[93m\033[1m"+"\n*****TASK RESULT*****\n"+"\033[0m\033[0m")
print(result)
# Step 2: Enrich result and store in Pinecone
enriched_result = {'data': result} # This is where you should enrich the result if needed
result_id = f"result_{task['task_id']}"
# print(f"使命履行成果 {enriched_result} 使命履行ID {result_id}")
vector = enriched_result['data'] # extract the actual result from the dictionary
index.upsert([(result_id, get_ada_embedding(vector),{"task":task['task_name'],"result":result})])
# Step 3: Create new tasks and reprioritize task list
new_tasks = task_creation_agent(OBJECTIVE,enriched_result, task["task_name"], [t["task_name"] for t in task_list])
for new_task in new_tasks:
task_id_counter += 1
new_task.update({"task_id": task_id_counter})
add_task(new_task)
prioritization_agent(this_task_id)
- 依据.env文件中读取的FIRST_TASK创立第一个使命并设置使命id,初始化使命计数器
task_id_counter - 进入循环，判别使命列表傍边是否有使命，如果有使命那么就将当前使命列表傍边的使命打印出来
- 从deque队列的尾部取出第一个元素，也便是第一个使命，打印使命id和使命称号
- 将第一个使命放入履行署理
execution_agent并获取履行成果，并将当期先使命的id保存在this_task_id傍边 - 将使命成果运用
get_ada_embedding变为高维向量，作为向量方针的值，再使命称号和使命成果封装为一个map作为向量方针的meta元数据。最终将向量方针刺进到向量索引傍边 - 将用户设定的方针以及刚刚履行的使命，使命履行成果，当前使命列表，放入到使命创立署理函数
task_creation_agent创立出新的使命，并将新的使命添加到使命列表傍边， - 调用
prioritization_agent函数，依据当前使命列表和GPT-4的指导，从头调整使命的优先级。
处理函数
在介绍完了大概得履行流程之后，下面咱们来别离讲解下各个处理的函数的完结办法以及原理。
GPT处理函数
该函数用于处理传入的prompt，在运用对应的模型进行处理之后，回来对应的complete。
def openai_call(prompt: str, model: str = OPENAI_API_MODEL, temperature: float = 0.5, max_tokens: int = 100):
if not model.startswith('gpt-'):
# Use completion API
response = openai.Completion.create(
engine=model,
prompt=prompt,
temperature=temperature,
max_tokens=max_tokens,
top_p=1,
frequency_penalty=0,
presence_penalty=0
)
return response.choices[0].text.strip()
else:
# Use chat completion API
messages=[{"role": "user", "content": prompt}]
response = openai.ChatCompletion.create(
model=model,
messages=messages,
temperature=temperature,
max_tokens=max_tokens,
n=1,
stop=None,
)
return response.choices[0].message.content.strip()
了解openai的api的小伙伴应该知道，openai的对话模型需求咱们传入一个prompt，然后openai依据运用的model以及相关参数的设置(详细看openai开发者官方网站介绍)。它就会回来给咱们一个complete也便是咱们需求的成果。这儿opanai_call函数只需求接纳一个参数prompt即可，回来值为complete
向量处理函数
get_ada_embedding
顾名思义该函数的用处是将text文本转化为向量的。
def get_ada_embedding(text):
text = text.replace("\n", " ")
return openai.Embedding.create(input=[text], model="text-embedding-ada-002")["data"][0]["embedding"]
这儿运用的是openai向量转化模型text-embedding-ada-002，该模型的运用办法如下
context_agent
向量索引查询函数，承受传入的查询条件，以及查询成果限制数量n，回来与查询条件相关度最高的使命。
def context_agent(query: str, n: int):
query_embedding = get_ada_embedding(query)
results = index.query(query_embedding, top_k=n, include_metadata=True)
#print("***** RESULTS *****")
#print(results)
sorted_results = sorted(results.matches, key=lambda x: x.score, reverse=True)
return [(str(item.metadata['task'])) for item in sorted_results]
履行署理
该函数的首要逻辑是传入用户设置的方针objective,和需求履行的使命称号，回来履行的使命成果，当然履行署理在履行进程傍边，也会经过context_agent函数获取与方针最相关的使命。
def execution_agent(objective: str, task: str) -> str:
context=context_agent(query=objective, n=5)
# print("\n*******RELEVANT CONTEXT******\n")
# print(context)
prompt =f"You are an AI who performs one task based on the following objective: {objective}.\nTake into account these previously completed tasks: {context}\nYour task: {task}\nResponse:"
return openai_call(prompt, temperature=0.7, max_tokens=2000)
中心prompt
为了便当咱们了解prompt对模型的约束，这儿供给prompt的中英文对照版 原始prompt
You are an AI who performs one task based on the following objective:{objective}
Take into account these previously completed tasks:{context}
Your task:{task}
Response:
中文版
你是一个依据以下方针履行使命的AI: objective
考虑这些之前完结的使命:context
你的使命:task
履行成果:也便是AI的答复
经过这些prompt咱们成功的给ai设置的使命，这个使命首要切合咱们设置的方针，还有考虑之前做的使命，防止类似的使命重复履行，让AI有了上下文相关防止了无效的使命履行
使命创立署理
该函数的首要使命是依据给定的使命方针、已完结使命的成果、已完结使命的描绘以及未完结使命列表，运用 GPT-4 生成一组新使命
def task_creation_agent(objective: str, result: Dict, task_description: str, task_list: List[str]):
prompt = f"You are an task creation AI that uses the result of an execution agent to create new tasks with the following objective: {objective}, The last completed task has the result: {result}. This result was based on this task description: {task_description}. These are incomplete tasks: {', '.join(task_list)}. Based on the result, create new tasks to be completed by the AI system that do not overlap with incomplete tasks. Return the tasks as an array."
response = openai_call(prompt)
new_tasks = response.split('\n')
return [{"task_name": task_name} for task_name in new_tasks]
接纳以下四个参数：
-
objective：当前使命的方针。 -
result：已完结使命的成果。 -
task_description：已完结使命的描绘。 -
task_list：未完结使命的列表。
中心prompt
//prompt1
You are an task creation AI that uses the result of an execution agent to create new tasks with the following objective: {objective},
//prompt2
The last completed task has the result: {result}.
//prompt3
This result was based on this task description: {task_description}.
//prompt4
These are incomplete tasks: {', '.join(task_list)}.
//prompt5
Based on the result, create new tasks to be completed by the AI system that do not overlap with incomplete tasks. Return the tasks as an array.
中文版
//prompt1
你是一个使命创立AI，运用履行署理的成果来创立新的使命，方针如下:{objective}
//prompt2
最近一个完结的使命的成果是:{task_description}.
//prompt3
最近一个完结的使命称号是:{task_description}
//prompt4
以下是未完结的使命: {', '.join(task_list)}.
//prompt5
依据成果，创立新的使命，由AI体系完结，不与未完结的使命堆叠。以数组的方式回来使命。
经过这些prompt咱们能够规定AI在创立新的使命的时候，防止当前使命列表傍边现已存在的使命，并参考最近一次使命履行成果，以及使命称号。来实时生成新的不重复的使命下一次循环履行。
优先级署理
首要作用是从头对使命列表进行优先级排序。它依据供给的当前使命ID（this_task_id）和大局使命列表（task_list），运用GPT-4为使命生成一个新的优先级次序
def prioritization_agent(this_task_id: int):
global task_list
task_names = [t["task_name"] for t in task_list]
next_task_id = int(this_task_id)+1
prompt = f"""You are an task prioritization AI tasked with cleaning the formatting of and reprioritizing the following tasks: {task_names}. Consider the ultimate objective of your team:{OBJECTIVE}. Do not remove any tasks. Return the result as a numbered list, like:
#. First task
#. Second task
Start the task list with number {next_task_id}."""
response = openai_call(prompt)
new_tasks = response.split('\n')
task_list = deque()
for task_string in new_tasks:
task_parts = task_string.strip().split(".", 1)
if len(task_parts) == 2:
task_id = task_parts[0].strip()
task_name = task_parts[1].strip()
task_list.append({"task_id": task_id, "task_name": task_name})
中心prompt
原prompt
//prompt1
You are an task prioritization AI tasked with cleaning the formatting of and reprioritizing the following tasks: {task_names}.
//prompt2
Consider the ultimate objective of your team:{OBJECTIVE}.
//prompt3
Do not remove any tasks. Return the result as a numbered list, like:
#. First task
#. Second task
Start the task list with number {next_task_id}.
中文版别
//prompt1
你是一个使命优先级AI，使命是清理以下使命的格式和从头排序:{task_names}
//prompt2
需求考虑团队的最终方针:{OBJECTIVE}
//prompt3
不要删去任何使命。回来成果为一个编号的列表，
如:
#。第一个使命
#。第二个使命
运用数字{next_task_id}启动使命列表。
该prompt构建一个包含使命称号、团队的最终方针（OBJECTIVE）以及要求按次序排列使命的字符串提示（prompt）将提示传递给 GPT-4，以获取新的使命优先级次序。
当然GPT4回来给咱们的成果肯定是一个字符串，如下方式，所以咱们需求运用分隔符 \n ,将字符串转化为成果数组new_tasks，然后在将new_tasks中的每一个使命字符串(1.xxxxx) 切开开来，分为task_id部分和task内容部分，存入到大局task_list傍边。
"1.xxx\n2.xxx\n3.xxxxx\n....."
结束
本文讨论了如安在GPT-4模型中运用prompt和context对AI体系施加约束，以完结使命自动生成与自主履行的能力。这些办法有助于前进AI体系的针对性、可控性和可靠性，为完结真实的人工智能（AGI）供给了重要基础。
咱们阐述了经过精心设计的prompt和充分利用上下文信息，如何确保AI在生成新使命时遵从预定规则，防止与现有使命重复。同时，AI体系能够依据最近一次使命履行成果和使命描绘，实时生成不重复的使命并进行下一轮的自主履行。这种自主性有助于前进AI体系的工作效率，下降资源耗费和冗余操作。
将prompt与GPT-4模型相结合，有望更好地应对实际运用场景中的挑战，为构建更智能、更自主的AI体系奠定基础。跟着技术的不断发展，咱们预期未来的AGI将能够更深化地了解人类需求，自主地创立和履行使命，为咱们的生活和工作带来更多的便当与价值。这种前进将推动人工智能研讨领域的发展，为未来AI体系的运用供给更广阔的前景。
最终欢迎咱们留言与我一起讨论问题。喜欢的话也能够给我点个赞，趁便重视我一波
