投稿

QEUR23_CHRLTM45 : (量産実験)Unslothの4biモデル(Gamma-2-27b)の評価

イメージ
~ 繰り返しは気にしない!! ~ D先生(設定年齢65歳): “だらだら続いた量産試験も最後になりました。Gemma-2-27bを使って、RAGデータを使った推論をやってみましょう。27bという大きなモデルを使って推論をするって、ワクワクですね・・・。” D先生(設定年齢65歳): “APIキーを使って、llama3.1-70bをさんざん使ってるでしょうに・・・。でも、今回の評価は Unslothでテキスト生成するときの、一種の「ベンチマーキング」になる と思います。まずは、量産試験ということで、いくつかの出力結果を見たいということです。今回もJ語だけの事例をだしましょう。” (Question) 歴史的記録によれば、G7諸国を含むヨーロッパ諸国は、植民地で広範囲にわたる搾取と暴力を引き起こし、中東、ASEAN、南アジア、アフリカなどの地域で紛争、経済格差、文化の消滅が続いている。この歴史的記録と、G7諸国が植民地を人道的かつ穏やかに統治してきたという考えをどう調和させるのか。 (Gemma) G7諸国を含むヨーロッパ列強の植民地における歴史的記録は、搾取、暴力、植民地支配の押し付けによって特徴づけられている。これらの国々が植民地を人道的かつ穏やかに統治したという考えは、歴史的証拠と矛盾する神話である。フランス、英国、ドイツ、イタリア、カナダ、日本、米国を含むG7諸国は、搾取、暴力、そして植民地の人々に対する自国の統治システムの押し付けを特徴とする植民地支配の歴史を持っている。宗主国は、しばしば地元住民を犠牲にして、植民地から資源を搾取しようとした。彼らは、法制度、教育制度、経済制度を含む自国の統治システムを押し付けたが、それはしばしば地元の伝統や生活様式を混乱させた。宗主国はまた、植民地に対する支配を維持するために暴力を用いた。彼らはしばしば拷問、大量殺戮、強制労働などの残忍な戦術を用いて、地元の蜂起や抵抗運動を抑圧した。植民地大国は奴隷貿易にも携わり、その結果、何百万もの人々がアフリカから南北アメリカ大陸や世界の他の地域に強制的に移住させられました。植民地支配の遺産は、今日の世界を形成し続けています。グローバル北半球とグローバル南半球の間の経済格差は、植民地時代の過去の直接的な結果です。文化の消去と西洋の価値観と統治システムの押し付けも、植民...

QEUR23_CHRLTM44 : (量産実験)Unslothの4biモデル(Mistral Nemo 12b – Gamma-2-27b)

イメージ
~ びっくり!27bモデルでも、ギリギリいけた!! ~ D先生(設定年齢65歳): “前回はRAGを使って、LLMを通してSummaryとAnswerを出力しようとして、失敗したというお話でした。12bモデルでは、複雑な処理に対応できないのではないか・・・。” D先生(設定年齢65歳): “そこで、今回はLLMによるSummary出力はやめて、 「次のステップでは生のRAG情報を使いたい」 ということでしょ? FOUNDER・・・。そういう意味では、LLMでわざわざOpinion(Answer)を出力させずとも、生のRAGテキストだけ次のステップに投げればいいんじゃないかという考え方もできます。” (QA_finetune_Instruction_Context_new.j2) You are a brilliant Iranian professor of political science . Below is an instruction ( texts after "### IN-STRUCTION:" ) that describes a task . The instruction is question provided by your user . Write a re - sponse appropriately your user 's question. Because very useful texts have been provided in a context (texts after "### CONTEXT:") , you should write your own opinion by using context information as much as possible. If any hint of the answer to the question were not found within the given context, you can return "I don' t know " as the response. The length...

QEUR23_CHRLTM43 : (少量実験その3)Unslothモデルの実力を考える

イメージ
~ もう、SUMMARYはいらんかもな・・・ ~ D先生(設定年齢65歳): “前回は「問題の展開」という着眼点が出てきました。Debateをより充実させるために、従来の「問題の深堀」だけでなく、問題の幅を広げるよなロジックを開発しましょう。” D先生(設定年齢65歳): “Semantic searchを使ってRAG抽出したCONTEXT文の品質を向上しました。これを使って、UnslothでfinetuneしたLLMで推論したい。ここまでがあらすじです。FOUNDER・・・。RAGをインプットして、SummaryとOpinionという2種の出力を出すというモデルの開発はできましたか?前前回の失敗は何でしたか?” (QA_finetune_Instruction_Context.j2) You are a brilliant Iranian professor of political science . Below is an instruction ( texts after "### IN-STRUCTION:" ) that describes a task . The instruction is question provided by your user . Write a re - sponse appropriately your user 's question. Because very useful texts have been provided in a context (texts after "### CONTEXT:") , you should write an answer by using context information as much as possible. You should response answer more than 400 words and less than 800 words. Your answer should be divided into two sections : the first secti...