xiaol

/

RWKV-v5.2-7B-Role-play-16k

like 15

环境

电脑环境：MacBook Pro M3 Max 64GB统一内存
所用模型：rwkv_v5.2_7B_role_play_16k.pth
所用后端：RWKV-Runner（macOS版本）

复现步骤

1、在Runner中配置模型，选择Strategy为MPS并启动。（成功）

2、载入模型。（成功）

3、测试对话（第一轮）（成功）

4、测试对话（第二轮），程序报错退出。（失败）

报错退出前，终端提示：

/AppleInternal/Library/BuildRoots/0032d1ee-80fd-11ee-8227-6aecfccc70fe/Library/Caches/com.apple.xbs/Sources/MetalPerformanceShaders/MPSCore/Types/MPSNDArray.mm:126: failed assertion [MPSNDArrayDescriptor sliceDimension:withSubrange:] error: the range subRange.start + subRange.length does not fit in dimension[2] (256)'
[1] 2862 abort /opt/homebrew/Cellar/[email protected]/3.10.13_1/bin/python3.10 --port 8000 --host