chore: change to call llama_grammar_sample and llama_grammar_accept_token functions instead of deprecated functions

yoshoku · yoshoku · commit c9cb73c18c52 · 2024-07-28T14:06:11.000+09:00
diff --git a/ext/llama_cpp/llama_cpp.cpp b/ext/llama_cpp/llama_cpp.cpp
@@ -3378,7 +3378,7 @@ class RbLLaMAContext {
     }
     LLaMAGrammarWrapper* grm_ptr = RbLLaMAGrammar::get_llama_grammar(kw_values[0]);
 
-    llama_sample_grammar(ctx_ptr->ctx, &(cnd_ptr->array), grm_ptr->grammar);
+    llama_grammar_sample(grm_ptr->grammar, ctx_ptr->ctx, &(cnd_ptr->array));
 
     return Qnil;
   }
@@ -3407,7 +3407,7 @@ class RbLLaMAContext {
     LLaMAGrammarWrapper* grm_ptr = RbLLaMAGrammar::get_llama_grammar(kw_values[0]);
     llama_token token = NUM2INT(kw_values[1]);
 
-    llama_grammar_accept_token(ctx_ptr->ctx, grm_ptr->grammar, token);
+    llama_grammar_accept_token(grm_ptr->grammar, ctx_ptr->ctx, token);
 
     return Qnil;
   }

Original file line number	Diff line number	Diff line change
`@@ -3378,7 +3378,7 @@ class RbLLaMAContext {`
`3378`	`3378`	`}`
`3379`	`3379`	`LLaMAGrammarWrapper* grm_ptr = RbLLaMAGrammar::get_llama_grammar(kw_values[0]);`
`3380`	`3380`
`3381`		`- llama_sample_grammar(ctx_ptr->ctx, &(cnd_ptr->array), grm_ptr->grammar);`
	`3381`	`+ llama_grammar_sample(grm_ptr->grammar, ctx_ptr->ctx, &(cnd_ptr->array));`
`3382`	`3382`
`3383`	`3383`	`return Qnil;`
`3384`	`3384`	`}`
`@@ -3407,7 +3407,7 @@ class RbLLaMAContext {`
`3407`	`3407`	`LLaMAGrammarWrapper* grm_ptr = RbLLaMAGrammar::get_llama_grammar(kw_values[0]);`
`3408`	`3408`	`llama_token token = NUM2INT(kw_values[1]);`
`3409`	`3409`
`3410`		`- llama_grammar_accept_token(ctx_ptr->ctx, grm_ptr->grammar, token);`
	`3410`	`+ llama_grammar_accept_token(grm_ptr->grammar, ctx_ptr->ctx, token);`
`3411`	`3411`
`3412`	`3412`	`return Qnil;`
`3413`	`3413`	`}`