get_response.py里面的chat函数未找到

[DavdGao]

您好，我在运行get_response.py的代码的时候，模型是qwen 2 7B instruct模型；会报错

AttributeError: 'Qwen2Model' object has no attribute 'chat'

并且根据requirements里面的transformers的版本号，我去找了transformers的源码，也是没有chat这个函数的，所以不明白这里的chat是什么逻辑，它的参数是tokenizer，message和query，这里query这个参数是什么作用？

[me-no-money]

您好，请问您这个问题解决了吗，是如何解决的呢？

[morecry]

初代qwen的模型仓库是带有模型代码文件的(见https://huggingface.co/Qwen/Qwen-7B-Chat/blob/main/modeling_qwen.py)，这个代码定义了chat函数，通过AutoModel.from_pretrained(..., trust_remote_code)加载到的，没有对于自定义模型代码文件没有chat的可以仿照自己写一下。

[me-no-money]

初代qwen的模型仓库是带有模型代码文件的(见https://huggingface.co/Qwen/Qwen-7B-Chat/blob/main/modeling_qwen.py)，这个代码定义了chat函数，通过AutoModel.from_pretrained(%EF%BC%8C%E8%BF%99%E4%B8%AA%E4%BB%A3%E7%A0%81%E5%AE%9A%E4%B9%89%E4%BA%86chat%E5%87%BD%E6%95%B0%EF%BC%8C%E9%80%9A%E8%BF%87AutoModel.from_pretrained()..., trust_remote_code)加载到的，没有对于自定义模型代码文件没有chat的可以仿照自己写一下。

已经解决。只要自己写一个chat函数能将自己模型生成test_data.jsonl中对话的response数据并保存就行了。谢谢你的回复