Class: LlamaCpp::LlamaPerfContextData

Inherits:
Object
  • Object
show all
Defined in:
ext/llama_cpp/llama_cpp.c,
ext/llama_cpp/llama_cpp.c

Overview

“struct llama_perf_context_data” wrapper class

Instance Method Summary collapse

Instance Method Details

#n_eval ⇒ Integer

Returns:

  • (Integer) 


4151
4152
4153
4154
 
# File 'ext/llama_cpp/llama_cpp.c', line 4151

static VALUE llama_perf_context_data_get_n_eval(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return INT2NUM(data->n_eval);
}

#n_p_eval ⇒ Integer

Returns:

  • (Integer) 


4146
4147
4148
4149
 
# File 'ext/llama_cpp/llama_cpp.c', line 4146

static VALUE llama_perf_context_data_get_n_p_eval(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return INT2NUM(data->n_p_eval);
}

#n_reused ⇒ Integer

Returns:

  • (Integer) 


4156
4157
4158
4159
 
# File 'ext/llama_cpp/llama_cpp.c', line 4156

static VALUE llama_perf_context_data_get_n_reused(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return INT2NUM(data->n_reused);
}

#t_eval_ms ⇒ Float

Returns:

  • (Float) 


4141
4142
4143
4144
 
# File 'ext/llama_cpp/llama_cpp.c', line 4141

static VALUE llama_perf_context_data_get_t_eval_ms(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return DBL2NUM(data->t_eval_ms);
}

#t_load_ms ⇒ Float

Returns:

  • (Float) 


4131
4132
4133
4134
 
# File 'ext/llama_cpp/llama_cpp.c', line 4131

static VALUE llama_perf_context_data_get_t_load_ms(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return DBL2NUM(data->t_load_ms);
}

#t_p_eval_ms ⇒ Float

Returns:

  • (Float) 


4136
4137
4138
4139
 
# File 'ext/llama_cpp/llama_cpp.c', line 4136

static VALUE llama_perf_context_data_get_t_p_eval_ms(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return DBL2NUM(data->t_p_eval_ms);
}

#t_start_ms ⇒ Float

Returns:

  • (Float) 


4126
4127
4128
4129
 
# File 'ext/llama_cpp/llama_cpp.c', line 4126

static VALUE llama_perf_context_data_get_t_start_ms(VALUE self) {
  struct llama_perf_context_data* data = get_llama_perf_context_data(self);
  return DBL2NUM(data->t_start_ms);
}