sampling : fix malloc

ggerganov · ggerganov · commit b5554b9e0505 · 2023-10-16T00:14:49.000+03:00
ggml-ci
diff --git a/common/sampling.cpp b/common/sampling.cpp
@@ -1,8 +1,7 @@
 #include "sampling.h"
 
 struct llama_sampling_context * llama_sampling_init(const struct gpt_params & params) {
-    struct llama_sampling_context * result =
-        (struct llama_sampling_context *) malloc(sizeof(struct llama_sampling_context));
+    struct llama_sampling_context * result = new llama_sampling_context();
 
     result->params = params.sampling_params;
     result->grammar = nullptr;
@@ -34,7 +33,7 @@ void llama_sampling_free(struct llama_sampling_context * ctx) {
         llama_grammar_free(ctx->grammar);
     }
 
-    free(ctx);
+    delete ctx;
 }
 
 void llama_sampling_reset(llama_sampling_context * ctx) {

Original file line number	Diff line number	Diff line change
`@@ -1,8 +1,7 @@`
`1`	`1`	`#include "sampling.h"`
`2`	`2`
`3`	`3`	`struct llama_sampling_context * llama_sampling_init(const struct gpt_params & params) {`
`4`		`- struct llama_sampling_context * result =`
`5`		`- (struct llama_sampling_context *) malloc(sizeof(struct llama_sampling_context));`
	`4`	`+ struct llama_sampling_context * result = new llama_sampling_context();`
`6`	`5`
`7`	`6`	`result->params = params.sampling_params;`
`8`	`7`	`result->grammar = nullptr;`
`@@ -34,7 +33,7 @@ void llama_sampling_free(struct llama_sampling_context * ctx) {`
`34`	`33`	`llama_grammar_free(ctx->grammar);`
`35`	`34`	`}`
`36`	`35`
`37`		`- free(ctx);`
	`36`	`+ delete ctx;`
`38`	`37`	`}`
`39`	`38`
`40`	`39`	`void llama_sampling_reset(llama_sampling_context * ctx) {`