Blame

Date:
Message:
count cache eviction events in cache debug stats
Actions:
History | Blob | Raw File
  1 6bef87be 2018-09-11 stsp /*

  2 6bef87be 2018-09-11 stsp  * Copyright (c) 2018 Stefan Sperling <stsp@openbsd.org>

  3 6bef87be 2018-09-11 stsp  *

  4 6bef87be 2018-09-11 stsp  * Permission to use, copy, modify, and distribute this software for any

  5 6bef87be 2018-09-11 stsp  * purpose with or without fee is hereby granted, provided that the above

  6 6bef87be 2018-09-11 stsp  * copyright notice and this permission notice appear in all copies.

  7 6bef87be 2018-09-11 stsp  *

  8 6bef87be 2018-09-11 stsp  * THE SOFTWARE IS PROVIDED "AS IS" AND THE AUTHOR DISCLAIMS ALL WARRANTIES

  9 6bef87be 2018-09-11 stsp  * WITH REGARD TO THIS SOFTWARE INCLUDING ALL IMPLIED WARRANTIES OF

 10 6bef87be 2018-09-11 stsp  * MERCHANTABILITY AND FITNESS. IN NO EVENT SHALL THE AUTHOR BE LIABLE FOR

 11 6bef87be 2018-09-11 stsp  * ANY SPECIAL, DIRECT, INDIRECT, OR CONSEQUENTIAL DAMAGES OR ANY DAMAGES

 12 6bef87be 2018-09-11 stsp  * WHATSOEVER RESULTING FROM LOSS OF USE, DATA OR PROFITS, WHETHER IN AN

 13 6bef87be 2018-09-11 stsp  * ACTION OF CONTRACT, NEGLIGENCE OR OTHER TORTIOUS ACTION, ARISING OUT OF

 14 6bef87be 2018-09-11 stsp  * OR IN CONNECTION WITH THE USE OR PERFORMANCE OF THIS SOFTWARE.

 15 6bef87be 2018-09-11 stsp  */

 16 6bef87be 2018-09-11 stsp 

 17 6bef87be 2018-09-11 stsp #include <sys/time.h>

 18 6bef87be 2018-09-11 stsp #include <sys/queue.h>

 19 6bef87be 2018-09-11 stsp 

 20 6bef87be 2018-09-11 stsp #include <stdio.h>

 21 6bef87be 2018-09-11 stsp #include <stdlib.h>

 22 6bef87be 2018-09-11 stsp #include <string.h>

 23 6bef87be 2018-09-11 stsp #include <sha1.h>

 24 6bef87be 2018-09-11 stsp #include <zlib.h>

 25 6bef87be 2018-09-11 stsp 

 26 6bef87be 2018-09-11 stsp #include "got_error.h"

 27 6bef87be 2018-09-11 stsp #include "got_object.h"

 28 6bef87be 2018-09-11 stsp 

 29 6bef87be 2018-09-11 stsp #include "got_lib_delta.h"

 30 6bef87be 2018-09-11 stsp #include "got_lib_inflate.h"

 31 6bef87be 2018-09-11 stsp #include "got_lib_object.h"

 32 6bef87be 2018-09-11 stsp #include "got_lib_object_idcache.h"

 33 6bef87be 2018-09-11 stsp #include "got_lib_object_cache.h"

 34 6bef87be 2018-09-11 stsp 

 35 6bef87be 2018-09-11 stsp #define GOT_OBJECT_CACHE_SIZE_OBJ	1024

 36 cec9c8a2 2018-09-15 stsp #define GOT_OBJECT_CACHE_SIZE_TREE	2048

 37 6bef87be 2018-09-11 stsp #define GOT_OBJECT_CACHE_SIZE_COMMIT	512

 38 6bef87be 2018-09-11 stsp 

 39 6bef87be 2018-09-11 stsp const struct got_error *

 40 6bef87be 2018-09-11 stsp got_object_cache_init(struct got_object_cache *cache,

 41 6bef87be 2018-09-11 stsp     enum got_object_cache_type type)

 42 6bef87be 2018-09-11 stsp {

 43 6bef87be 2018-09-11 stsp 	size_t size;

 44 6bef87be 2018-09-11 stsp 

 45 6bef87be 2018-09-11 stsp 	switch (type) {

 46 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_OBJ:

 47 6bef87be 2018-09-11 stsp 		size = GOT_OBJECT_CACHE_SIZE_OBJ;

 48 6bef87be 2018-09-11 stsp 		break;

 49 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_TREE:

 50 6bef87be 2018-09-11 stsp 		size = GOT_OBJECT_CACHE_SIZE_TREE;

 51 6bef87be 2018-09-11 stsp 		break;

 52 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_COMMIT:

 53 6bef87be 2018-09-11 stsp 		size = GOT_OBJECT_CACHE_SIZE_COMMIT;

 54 6bef87be 2018-09-11 stsp 		break;

 55 6bef87be 2018-09-11 stsp 	}

 56 6bef87be 2018-09-11 stsp 

 57 6bef87be 2018-09-11 stsp 	cache->idcache = got_object_idcache_alloc(size);

 58 6bef87be 2018-09-11 stsp 	if (cache->idcache == NULL)

 59 6bef87be 2018-09-11 stsp 		return got_error_from_errno();

 60 6bef87be 2018-09-11 stsp 	cache->type = type;

 61 6bef87be 2018-09-11 stsp 	cache->size = size;

 62 6bef87be 2018-09-11 stsp 	return NULL;

 63 6bef87be 2018-09-11 stsp }

 64 6bef87be 2018-09-11 stsp 

 65 6bef87be 2018-09-11 stsp const struct got_error *

 66 6bef87be 2018-09-11 stsp got_object_cache_add(struct got_object_cache *cache, struct got_object_id *id, void *item)

 67 6bef87be 2018-09-11 stsp {

 68 6bef87be 2018-09-11 stsp 	const struct got_error *err = NULL;

 69 6bef87be 2018-09-11 stsp 	struct got_object_cache_entry *ce;

 70 6bef87be 2018-09-11 stsp 	int nelem;

 71 6bef87be 2018-09-11 stsp 

 72 6bef87be 2018-09-11 stsp 	nelem = got_object_idcache_num_elements(cache->idcache);

 73 6bef87be 2018-09-11 stsp 	if (nelem >= cache->size) {

 74 6bef87be 2018-09-11 stsp 		err = got_object_idcache_remove_least_used((void **)&ce,

 75 6bef87be 2018-09-11 stsp 		    cache->idcache);

 76 6bef87be 2018-09-11 stsp 		if (err)

 77 6bef87be 2018-09-11 stsp 			return err;

 78 6bef87be 2018-09-11 stsp 		switch (cache->type) {

 79 6bef87be 2018-09-11 stsp 		case GOT_OBJECT_CACHE_TYPE_OBJ:

 80 6bef87be 2018-09-11 stsp 			got_object_close(ce->data.obj);

 81 6bef87be 2018-09-11 stsp 			break;

 82 6bef87be 2018-09-11 stsp 		case GOT_OBJECT_CACHE_TYPE_TREE:

 83 6bef87be 2018-09-11 stsp 			got_object_tree_close(ce->data.tree);

 84 6bef87be 2018-09-11 stsp 			break;

 85 6bef87be 2018-09-11 stsp 		case GOT_OBJECT_CACHE_TYPE_COMMIT:

 86 6bef87be 2018-09-11 stsp 			got_object_commit_close(ce->data.commit);

 87 6bef87be 2018-09-11 stsp 			break;

 88 6bef87be 2018-09-11 stsp 		}

 89 6bef87be 2018-09-11 stsp 		free(ce);

 90 315fa2b2 2018-09-15 stsp 		cache->cache_evict++;

 91 6bef87be 2018-09-11 stsp 	}

 92 6bef87be 2018-09-11 stsp 

 93 6bef87be 2018-09-11 stsp 	ce = calloc(1, sizeof(*ce));

 94 6bef87be 2018-09-11 stsp 	if (ce == NULL)

 95 6bef87be 2018-09-11 stsp 		return got_error_from_errno();

 96 6bef87be 2018-09-11 stsp 	memcpy(&ce->id, id, sizeof(ce->id));

 97 6bef87be 2018-09-11 stsp 	switch (cache->type) {

 98 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_OBJ:

 99 6bef87be 2018-09-11 stsp 		ce->data.obj = (struct got_object *)item;

100 6bef87be 2018-09-11 stsp 		break;

101 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_TREE:

102 6bef87be 2018-09-11 stsp 		ce->data.tree = (struct got_tree_object *)item;

103 6bef87be 2018-09-11 stsp 		break;

104 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_COMMIT:

105 6bef87be 2018-09-11 stsp 		ce->data.commit = (struct got_commit_object *)item;

106 6bef87be 2018-09-11 stsp 		break;

107 6bef87be 2018-09-11 stsp 	}

108 6bef87be 2018-09-11 stsp 

109 6bef87be 2018-09-11 stsp 	err = got_object_idcache_add(cache->idcache, id, ce);

110 6bef87be 2018-09-11 stsp 	if (err) {

111 6bef87be 2018-09-11 stsp 		if (err->code == GOT_ERR_OBJ_EXISTS) {

112 6bef87be 2018-09-11 stsp 			free(ce);

113 6bef87be 2018-09-11 stsp 			err = NULL;

114 6bef87be 2018-09-11 stsp 		}

115 6bef87be 2018-09-11 stsp 	}

116 6bef87be 2018-09-11 stsp 	return err;

117 6bef87be 2018-09-11 stsp }

118 6bef87be 2018-09-11 stsp 

119 6bef87be 2018-09-11 stsp void *

120 6bef87be 2018-09-11 stsp got_object_cache_get(struct got_object_cache *cache, struct got_object_id *id)

121 6bef87be 2018-09-11 stsp {

122 6bef87be 2018-09-11 stsp 	struct got_object_cache_entry *ce;

123 6bef87be 2018-09-11 stsp 

124 6bef87be 2018-09-11 stsp 	ce = got_object_idcache_get(cache->idcache, id);

125 6bef87be 2018-09-11 stsp 	if (ce) {

126 6bef87be 2018-09-11 stsp 		cache->cache_hit++;

127 6bef87be 2018-09-11 stsp 		switch (cache->type) {

128 6bef87be 2018-09-11 stsp 		case GOT_OBJECT_CACHE_TYPE_OBJ:

129 6bef87be 2018-09-11 stsp 			return ce->data.obj;

130 6bef87be 2018-09-11 stsp 		case GOT_OBJECT_CACHE_TYPE_TREE:

131 6bef87be 2018-09-11 stsp 			return ce->data.tree;

132 6bef87be 2018-09-11 stsp 		case GOT_OBJECT_CACHE_TYPE_COMMIT:

133 6bef87be 2018-09-11 stsp 			return ce->data.commit;

134 6bef87be 2018-09-11 stsp 		}

135 6bef87be 2018-09-11 stsp 	}

136 6bef87be 2018-09-11 stsp 

137 6bef87be 2018-09-11 stsp 	cache->cache_miss++;

138 6bef87be 2018-09-11 stsp 	return NULL;

139 6bef87be 2018-09-11 stsp }

140 6bef87be 2018-09-11 stsp 

141 6bef87be 2018-09-11 stsp #if 0

142 6bef87be 2018-09-11 stsp static void

143 6bef87be 2018-09-11 stsp print_cache_stats(struct got_object_cache *cache, const char *name)

144 6bef87be 2018-09-11 stsp {

145 315fa2b2 2018-09-15 stsp 	fprintf(stderr, "%s cache: %d elements, %d hits, %d missed, "

146 315fa2b2 2018-09-15 stsp 	    "%d evicted\n",

147 6bef87be 2018-09-11 stsp 	    name, got_object_idcache_num_elements(cache->idcache),

148 315fa2b2 2018-09-15 stsp 	    cache->cache_hit, cache->cache_miss, cache->cache_evict);

149 6bef87be 2018-09-11 stsp }

150 6bef87be 2018-09-11 stsp 

151 6bef87be 2018-09-11 stsp void check_refcount(struct got_object_id *id, void *data, void *arg)

152 6bef87be 2018-09-11 stsp {

153 6bef87be 2018-09-11 stsp 	struct got_object_cache *cache = arg;

154 6bef87be 2018-09-11 stsp 	struct got_object_cache_entry *ce = data;

155 6bef87be 2018-09-11 stsp 	struct got_object *obj;

156 6bef87be 2018-09-11 stsp 	struct got_tree_object *tree;

157 6bef87be 2018-09-11 stsp 	struct got_commit_object *commit;

158 6bef87be 2018-09-11 stsp 	char *id_str;

159 6bef87be 2018-09-11 stsp 

160 6bef87be 2018-09-11 stsp 	if (got_object_id_str(&id_str, id) != NULL)

161 6bef87be 2018-09-11 stsp 		return;

162 6bef87be 2018-09-11 stsp 

163 6bef87be 2018-09-11 stsp 	switch (cache->type) {

164 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_OBJ:

165 6bef87be 2018-09-11 stsp 		obj = ce->data.obj;

166 6bef87be 2018-09-11 stsp 		if (obj->refcnt == 1)

167 6bef87be 2018-09-11 stsp 			break;

168 6bef87be 2018-09-11 stsp 		fprintf(stderr, "object %s has %d unclaimed references\n",

169 6bef87be 2018-09-11 stsp 		    id_str, obj->refcnt - 1);

170 6bef87be 2018-09-11 stsp 		break;

171 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_TREE:

172 6bef87be 2018-09-11 stsp 		tree = ce->data.tree;

173 6bef87be 2018-09-11 stsp 		if (tree->refcnt == 1)

174 6bef87be 2018-09-11 stsp 			break;

175 6bef87be 2018-09-11 stsp 		fprintf(stderr, "tree %s has %d unclaimed references\n",

176 6bef87be 2018-09-11 stsp 		    id_str, tree->refcnt - 1);

177 6bef87be 2018-09-11 stsp 		break;

178 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_COMMIT:

179 6bef87be 2018-09-11 stsp 		commit = ce->data.commit;

180 6bef87be 2018-09-11 stsp 		if (commit->refcnt == 1)

181 6bef87be 2018-09-11 stsp 			break;

182 6bef87be 2018-09-11 stsp 		fprintf(stderr, "commit %s has %d unclaimed references\n",

183 6bef87be 2018-09-11 stsp 		    id_str, commit->refcnt);

184 6bef87be 2018-09-11 stsp 		break;

185 6bef87be 2018-09-11 stsp 	}

186 6bef87be 2018-09-11 stsp 	free(id_str);

187 6bef87be 2018-09-11 stsp }

188 6bef87be 2018-09-11 stsp #endif

189 6bef87be 2018-09-11 stsp 

190 6bef87be 2018-09-11 stsp void

191 6bef87be 2018-09-11 stsp got_object_cache_close(struct got_object_cache *cache)

192 6bef87be 2018-09-11 stsp {

193 6bef87be 2018-09-11 stsp #if 0

194 6bef87be 2018-09-11 stsp 	switch (cache->type) {

195 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_OBJ:

196 6bef87be 2018-09-11 stsp 		print_cache_stats(cache, "object");

197 6bef87be 2018-09-11 stsp 		break;

198 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_TREE:

199 6bef87be 2018-09-11 stsp 		print_cache_stats(cache, "tree");

200 6bef87be 2018-09-11 stsp 		break;

201 6bef87be 2018-09-11 stsp 	case GOT_OBJECT_CACHE_TYPE_COMMIT:

202 6bef87be 2018-09-11 stsp 		print_cache_stats(cache, "commit");

203 6bef87be 2018-09-11 stsp 		break;

204 6bef87be 2018-09-11 stsp 	}

205 6bef87be 2018-09-11 stsp 

206 6bef87be 2018-09-11 stsp 	got_object_idcache_for_each(cache->idcache, check_refcount, cache);

207 6bef87be 2018-09-11 stsp #endif

208 6bef87be 2018-09-11 stsp 

209 6bef87be 2018-09-11 stsp 	if (cache->idcache) {

210 6bef87be 2018-09-11 stsp 		got_object_idcache_free(cache->idcache);

211 6bef87be 2018-09-11 stsp 		cache->idcache = NULL;

212 6bef87be 2018-09-11 stsp 	}

213 6bef87be 2018-09-11 stsp 	cache->size = 0;

214 6bef87be 2018-09-11 stsp }