{
 "cells": [
  {
   "attachments": {},
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# ChatGLM6B"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 4,
   "metadata": {},
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision.\n",
      "Explicitly passing a `revision` is encouraged when loading a configuration with custom code to ensure no malicious code has been contributed in a newer revision.\n",
      "Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision.\n"
     ]
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "9b3296313f724fdf955b4fe41ca5302e",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Loading checkpoint shards:   0%|          | 0/8 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "Some weights of ChatGLMForConditionalGeneration were not initialized from the model checkpoint at G:\\CODE\\Python\\ChatGLM-6B-main and are newly initialized: ['transformer.prefix_encoder.embedding.weight']\n",
      "You should probably TRAIN this model on a down-stream task to be able to use it for predictions and inference.\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "开始int4量化\n",
      "量化完成\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "根据指控，如果指控成立\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "根据指控，如果指控成立，被告人将被判处相应的刑罚。\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "根据指控，如果指控成立，被告人将被判处相应的刑罚。\n",
      "\n",
      "作为公民，我们应该遵守交通规则\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "根据指控，如果指控成立，被告人将被判处相应的刑罚。\n",
      "\n",
      "作为公民，我们应该遵守交通规则，确保自己和他人的安全。同时\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "根据指控，如果指控成立，被告人将被判处相应的刑罚。\n",
      "\n",
      "作为公民，我们应该遵守交通规则，确保自己和他人的安全。同时，我们应该积极参与交通安全活动，提高交通安全\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：天津市滨海新区人民检察院的指控指控，2016年10月14日18时许，被告人许某醉酒后，无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "根据指控，如果指控成立，被告人将被判处相应的刑罚。\n",
      "\n",
      "作为公民，我们应该遵守交通规则，确保自己和他人的安全。同时，我们应该积极参与交通安全活动，提高交通安全意识，减少交通事故。\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中的酒精含量为10\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中的酒精含量为108.1mg/100\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中的酒精含量为108.1mg/100ml。\n",
      "\n",
      "因此，根据刑法\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中的酒精含量为108.1mg/100ml。\n",
      "\n",
      "因此，根据刑法第221条，许某\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中的酒精含量为108.1mg/100ml。\n",
      "\n",
      "因此，根据刑法第221条，许某的行为符合危险驾驶罪的定义，应当\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：请根据给出的法律文书，判断根据刑法多少条，该判谁什么罪。法律文书如下：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据法律文书，可以确定以下结论：\n",
      "\n",
      "1. 被告人许某犯有危险驾驶罪。\n",
      "\n",
      "根据法律文书，2016年10月14日18时，被告人许某醉酒后无证驾驶无号牌电动二轮车，并驮带李某，沿港城大道逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁G×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中的酒精含量为108.1mg/100ml。\n",
      "\n",
      "因此，根据刑法第221条，许某的行为符合危险驾驶罪的定义，应当判处有期徒刑三年以下刑罚。\n"
     ]
    }
   ],
   "source": [
    "import os\n",
    "import platform\n",
    "import signal\n",
    "import torch\n",
    "from transformers import AutoTokenizer, AutoModel, AutoConfig\n",
    "\n",
    "tokenizer = AutoTokenizer.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\", trust_remote_code=True)\n",
    "config = AutoConfig.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\", trust_remote_code=True, pre_seq_len=128)\n",
    "model = AutoModel.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\",  config=config, trust_remote_code=True)\n",
    "# prefix_state_dict = torch.load(os.path.join(\n",
    "#     'G:\\CODE\\Python\\ChatGLM-6B-main\\model_2', \"pytorch_model.bin\"))\n",
    "# new_prefix_state_dict = {}\n",
    "# for k, v in prefix_state_dict.items():\n",
    "#     if k.startswith(\"transformer.prefix_encoder.\"):\n",
    "#         new_prefix_state_dict[k[len(\"transformer.prefix_encoder.\"):]] = v\n",
    "# model.transformer.prefix_encoder.load_state_dict(new_prefix_state_dict)\n",
    "\n",
    "print('开始int4量化')\n",
    "model = model.quantize(4)\n",
    "model = model.half().cuda()\n",
    "# model.transformer.prefix_encoder.float()\n",
    "model = model.eval()\n",
    "print('量化完成')\n",
    "\n",
    "os_name = platform.system()\n",
    "clear_command = 'cls' if os_name == 'Windows' else 'clear'\n",
    "stop_stream = False\n",
    "\n",
    "\n",
    "def build_prompt(history):\n",
    "    prompt = \"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\"\n",
    "    for query, response in history:\n",
    "        prompt += f\"\\n\\n用户：{query}\"\n",
    "        prompt += f\"\\n\\nChatGLM-6B：{response}\"\n",
    "    return prompt\n",
    "\n",
    "\n",
    "def signal_handler(signal, frame):\n",
    "    global stop_stream\n",
    "    stop_stream = True\n",
    "\n",
    "\n",
    "def main():\n",
    "    history = []\n",
    "    global stop_stream\n",
    "    print(\"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\")\n",
    "    while True:\n",
    "        query = input(\"\\n用户：\")\n",
    "        if query.strip() == \"stop\":\n",
    "            break\n",
    "        if query.strip() == \"clear\":\n",
    "            history = []\n",
    "            os.system(clear_command)\n",
    "            print(\"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\")\n",
    "            continue\n",
    "        count = 0\n",
    "        for response, history in model.stream_chat(tokenizer, query, history=history):\n",
    "            if stop_stream:\n",
    "                stop_stream = False\n",
    "                break\n",
    "            else:\n",
    "                count += 1\n",
    "                if count % 8 == 0:\n",
    "                    os.system(clear_command)\n",
    "                    print(build_prompt(history), flush=True)\n",
    "                    signal.signal(signal.SIGINT, signal_handler)\n",
    "        os.system(clear_command)\n",
    "        print(build_prompt(history), flush=True)\n",
    "\n",
    "\n",
    "if __name__ == \"__main__\":\n",
    "    main()\n"
   ]
  },
  {
   "attachments": {},
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# ChatGLM6B-Legal-model1"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 1,
   "metadata": {},
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision.\n",
      "Explicitly passing a `revision` is encouraged when loading a configuration with custom code to ensure no malicious code has been contributed in a newer revision.\n",
      "Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision.\n"
     ]
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "951aa03b169d4bc8ad4810c524a172f8",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Loading checkpoint shards:   0%|          | 0/8 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "Some weights of ChatGLMForConditionalGeneration were not initialized from the model checkpoint at G:\\CODE\\Python\\ChatGLM-6B-main and are newly initialized: ['transformer.prefix_encoder.embedding.weight']\n",
      "You should probably TRAIN this model on a down-stream task to be able to use it for predictions and inference.\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "开始int4量化\n",
      "量化完成\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml\n",
      "\n",
      "ChatGLM-6B：根据刑法第133条，\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml\n",
      "\n",
      "ChatGLM-6B：根据刑法第133条，判处许某危险驾驶罪\n"
     ]
    }
   ],
   "source": [
    "import os\n",
    "import platform\n",
    "import signal\n",
    "import torch\n",
    "from transformers import AutoTokenizer, AutoModel, AutoConfig\n",
    "\n",
    "tokenizer = AutoTokenizer.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\", trust_remote_code=True)\n",
    "config = AutoConfig.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\", trust_remote_code=True, pre_seq_len=128)\n",
    "model = AutoModel.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\",  config=config, trust_remote_code=True)\n",
    "prefix_state_dict = torch.load(os.path.join(\n",
    "    'G:\\CODE\\Python\\ChatGLM-6B-main\\model_1', \"pytorch_model.bin\"))\n",
    "new_prefix_state_dict = {}\n",
    "for k, v in prefix_state_dict.items():\n",
    "    if k.startswith(\"transformer.prefix_encoder.\"):\n",
    "        new_prefix_state_dict[k[len(\"transformer.prefix_encoder.\"):]] = v\n",
    "model.transformer.prefix_encoder.load_state_dict(new_prefix_state_dict)\n",
    "\n",
    "print('开始int4量化')\n",
    "model = model.quantize(4)\n",
    "model = model.half().cuda()\n",
    "model.transformer.prefix_encoder.float()\n",
    "model = model.eval()\n",
    "print('量化完成')\n",
    "\n",
    "os_name = platform.system()\n",
    "clear_command = 'cls' if os_name == 'Windows' else 'clear'\n",
    "stop_stream = False\n",
    "\n",
    "\n",
    "def build_prompt(history):\n",
    "    prompt = \"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\"\n",
    "    for query, response in history:\n",
    "        prompt += f\"\\n\\n用户：{query}\"\n",
    "        prompt += f\"\\n\\nChatGLM-6B：{response}\"\n",
    "    return prompt\n",
    "\n",
    "\n",
    "def signal_handler(signal, frame):\n",
    "    global stop_stream\n",
    "    stop_stream = True\n",
    "\n",
    "\n",
    "def main():\n",
    "    history = []\n",
    "    global stop_stream\n",
    "    print(\"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\")\n",
    "    while True:\n",
    "        query = input(\"\\n用户：\")\n",
    "        if query.strip() == \"stop\":\n",
    "            break\n",
    "        if query.strip() == \"clear\":\n",
    "            history = []\n",
    "            os.system(clear_command)\n",
    "            print(\"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\")\n",
    "            continue\n",
    "        count = 0\n",
    "        for response, history in model.stream_chat(tokenizer, query, history=history):\n",
    "            if stop_stream:\n",
    "                stop_stream = False\n",
    "                break\n",
    "            else:\n",
    "                count += 1\n",
    "                if count % 8 == 0:\n",
    "                    os.system(clear_command)\n",
    "                    print(build_prompt(history), flush=True)\n",
    "                    signal.signal(signal.SIGINT, signal_handler)\n",
    "        os.system(clear_command)\n",
    "        print(build_prompt(history), flush=True)\n",
    "\n",
    "\n",
    "if __name__ == \"__main__\":\n",
    "    main()"
   ]
  },
  {
   "attachments": {},
   "cell_type": "markdown",
   "metadata": {},
   "source": [
    "# ChatGLM6B-Legal-model2"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 5,
   "metadata": {},
   "outputs": [
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision.\n",
      "Explicitly passing a `revision` is encouraged when loading a configuration with custom code to ensure no malicious code has been contributed in a newer revision.\n",
      "Explicitly passing a `revision` is encouraged when loading a model with custom code to ensure no malicious code has been contributed in a newer revision.\n"
     ]
    },
    {
     "data": {
      "application/vnd.jupyter.widget-view+json": {
       "model_id": "b8887b74a6294911b5c523f9738c2746",
       "version_major": 2,
       "version_minor": 0
      },
      "text/plain": [
       "Loading checkpoint shards:   0%|          | 0/8 [00:00<?, ?it/s]"
      ]
     },
     "metadata": {},
     "output_type": "display_data"
    },
    {
     "name": "stderr",
     "output_type": "stream",
     "text": [
      "Some weights of ChatGLMForConditionalGeneration were not initialized from the model checkpoint at G:\\CODE\\Python\\ChatGLM-6B-main and are newly initialized: ['transformer.prefix_encoder.embedding.weight']\n",
      "You should probably TRAIN this model on a down-stream task to be able to use it for predictions and inference.\n"
     ]
    },
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "开始int4量化\n",
      "量化完成\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/100ml，根据中国的交通\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/100ml，根据中国的交通法规，血液中酒精含量超过80mg\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/100ml，根据中国的交通法规，血液中酒精含量超过80mg/100ml，即被认定为\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/100ml，根据中国的交通法规，血液中酒精含量超过80mg/100ml，即被认定为醉驾。因此被告人许某符合危险\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/100ml，根据中国的交通法规，血液中酒精含量超过80mg/100ml，即被认定为醉驾。因此被告人许某符合危险驾驶罪中的醉酒驾驶机动车，并且严重\n",
      "欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\n",
      "\n",
      "用户：天津市滨海新区人民检察院指控，2016年10月14日18时许，被告人许某醉酒后、无证驾驶无号牌电动二轮车驮带李某，沿港城大道由西向东逆向行驶，遇前方顺行的被害人向某超速驾驶的鲁Ｇ×××××号思域牌小轿车。被告人许某驾驶的电动二轮车前部与被害人车辆右侧前部相撞，造成许某、李某受伤，两车损坏的交通事故。经鉴定，被告人许某血液中酒精含量为108.1mg/100ml。\n",
      "\n",
      "ChatGLM-6B：根据中华人民共和国刑法第133条，判处被告人许某危险驾驶罪。其中被告人许某驾驶无号牌电动二轮车驮带李某沿港城大道由西向东逆向行驶，经鉴定，被告人许某血液中酒精含量为108.1mg/100ml，根据中国的交通法规，血液中酒精含量超过80mg/100ml，即被认定为醉驾。因此被告人许某符合危险驾驶罪中的醉酒驾驶机动车，并且严重超过规定时速行驶。\n"
     ]
    }
   ],
   "source": [
    "import os\n",
    "import platform\n",
    "import signal\n",
    "import torch\n",
    "from transformers import AutoTokenizer, AutoModel, AutoConfig\n",
    "\n",
    "tokenizer = AutoTokenizer.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\", trust_remote_code=True)\n",
    "config = AutoConfig.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\", trust_remote_code=True, pre_seq_len=128)\n",
    "model = AutoModel.from_pretrained(\n",
    "    \"G:\\CODE\\Python\\ChatGLM-6B-main\",  config=config, trust_remote_code=True)\n",
    "prefix_state_dict = torch.load(os.path.join(\n",
    "    'G:\\CODE\\Python\\ChatGLM-6B-main\\model_2', \"pytorch_model.bin\"))\n",
    "new_prefix_state_dict = {}\n",
    "for k, v in prefix_state_dict.items():\n",
    "    if k.startswith(\"transformer.prefix_encoder.\"):\n",
    "        new_prefix_state_dict[k[len(\"transformer.prefix_encoder.\"):]] = v\n",
    "model.transformer.prefix_encoder.load_state_dict(new_prefix_state_dict)\n",
    "\n",
    "print('开始int4量化')\n",
    "model = model.quantize(4)\n",
    "model = model.half().cuda()\n",
    "model.transformer.prefix_encoder.float()\n",
    "model = model.eval()\n",
    "print('量化完成')\n",
    "\n",
    "os_name = platform.system()\n",
    "clear_command = 'cls' if os_name == 'Windows' else 'clear'\n",
    "stop_stream = False\n",
    "\n",
    "\n",
    "def build_prompt(history):\n",
    "    prompt = \"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\"\n",
    "    for query, response in history:\n",
    "        prompt += f\"\\n\\n用户：{query}\"\n",
    "        prompt += f\"\\n\\nChatGLM-6B：{response}\"\n",
    "    return prompt\n",
    "\n",
    "\n",
    "def signal_handler(signal, frame):\n",
    "    global stop_stream\n",
    "    stop_stream = True\n",
    "\n",
    "\n",
    "def main():\n",
    "    history = []\n",
    "    global stop_stream\n",
    "    print(\"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\")\n",
    "    while True:\n",
    "        query = input(\"\\n用户：\")\n",
    "        if query.strip() == \"stop\":\n",
    "            break\n",
    "        if query.strip() == \"clear\":\n",
    "            history = []\n",
    "            os.system(clear_command)\n",
    "            print(\"欢迎使用 ChatGLM-6B 模型，输入内容即可进行对话，clear 清空对话历史，stop 终止程序\")\n",
    "            continue\n",
    "        count = 0\n",
    "        for response, history in model.stream_chat(tokenizer, query, history=history):\n",
    "            if stop_stream:\n",
    "                stop_stream = False\n",
    "                break\n",
    "            else:\n",
    "                count += 1\n",
    "                if count % 8 == 0:\n",
    "                    os.system(clear_command)\n",
    "                    print(build_prompt(history), flush=True)\n",
    "                    signal.signal(signal.SIGINT, signal_handler)\n",
    "        os.system(clear_command)\n",
    "        print(build_prompt(history), flush=True)\n",
    "\n",
    "\n",
    "if __name__ == \"__main__\":\n",
    "    main()\n"
   ]
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "base",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.9.12"
  },
  "orig_nbformat": 4
 },
 "nbformat": 4,
 "nbformat_minor": 2
}