block/qcow2.c

   1 /*
   2  * Block driver for the QCOW version 2 format
   3  *
   4  * Copyright (c) 2004-2006 Fabrice Bellard
   5  *
   6  * Permission is hereby granted, free of charge, to any person obtaining a copy
   7  * of this software and associated documentation files (the "Software"), to deal
   8  * in the Software without restriction, including without limitation the rights
   9  * to use, copy, modify, merge, publish, distribute, sublicense, and/or sell
  10  * copies of the Software, and to permit persons to whom the Software is
  11  * furnished to do so, subject to the following conditions:
  12  *
  13  * The above copyright notice and this permission notice shall be included in
  14  * all copies or substantial portions of the Software.
  15  *
  16  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  17  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  18  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT. IN NO EVENT SHALL
  19  * THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER
  20  * LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE, ARISING FROM,
  21  * OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR OTHER DEALINGS IN
  22  * THE SOFTWARE.
  23  */
  24 #include "qemu-common.h"
  25 #include "block_int.h"
  26 #include "module.h"
  27 #include <zlib.h>
  28 #include "aes.h"
  29 #include "block/qcow2.h"
  30
  31 /*
  32   Differences with QCOW:
  33
  34   - Support for multiple incremental snapshots.
  35   - Memory management by reference counts.
  36   - Clusters which have a reference count of one have the bit
  37     QCOW_OFLAG_COPIED to optimize write performance.
  38   - Size of compressed clusters is stored in sectors to reduce bit usage
  39     in the cluster offsets.
  40   - Support for storing additional data (such as the VM state) in the
  41     snapshots.
  42   - If a backing store is used, the cluster size is not constrained
  43     (could be backported to QCOW).
  44   - L2 tables have always a size of one cluster.
  45 */
  46
  47
  48 typedef struct {
  49     uint32_t magic;
  50     uint32_t len;
  51 } QCowExtension;
  52 #define  QCOW_EXT_MAGIC_END 0
  53 #define  QCOW_EXT_MAGIC_BACKING_FORMAT 0xE2792ACA
  54
  55
  56
  57 static int qcow_probe(const uint8_t *buf, int buf_size, const char *filename)
  58 {
  59     const QCowHeader *cow_header = (const void *)buf;
  60
  61     if (buf_size >= sizeof(QCowHeader) &&
  62         be32_to_cpu(cow_header->magic) == QCOW_MAGIC &&
  63         be32_to_cpu(cow_header->version) == QCOW_VERSION)
  64         return 100;
  65     else
  66         return 0;
  67 }
  68
  69
  70 /*
  71  * read qcow2 extension and fill bs
  72  * start reading from start_offset
  73  * finish reading upon magic of value 0 or when end_offset reached
  74  * unknown magic is skipped (future extension this version knows nothing about)
  75  * return 0 upon success, non-0 otherwise
  76  */
  77 static int qcow_read_extensions(BlockDriverState *bs, uint64_t start_offset,
  78                                 uint64_t end_offset)
  79 {
  80     BDRVQcowState *s = bs->opaque;
  81     QCowExtension ext;
  82     uint64_t offset;
  83
  84 #ifdef DEBUG_EXT
  85     printf("qcow_read_extensions: start=%ld end=%ld\n", start_offset, end_offset);
  86 #endif
  87     offset = start_offset;
  88     while (offset < end_offset) {
  89
  90 #ifdef DEBUG_EXT
  91         /* Sanity check */
  92         if (offset > s->cluster_size)
  93             printf("qcow_handle_extension: suspicious offset %lu\n", offset);
  94
  95         printf("attemting to read extended header in offset %lu\n", offset);
  96 #endif
  97
  98         if (bdrv_pread(s->hd, offset, &ext, sizeof(ext)) != sizeof(ext)) {
  99             fprintf(stderr, "qcow_handle_extension: ERROR: pread fail from offset %llu\n",
 100                     (unsigned long long)offset);
 101             return 1;
 102         }
 103         be32_to_cpus(&ext.magic);
 104         be32_to_cpus(&ext.len);
 105         offset += sizeof(ext);
 106 #ifdef DEBUG_EXT
 107         printf("ext.magic = 0x%x\n", ext.magic);
 108 #endif
 109         switch (ext.magic) {
 110         case QCOW_EXT_MAGIC_END:
 111             return 0;
 112
 113         case QCOW_EXT_MAGIC_BACKING_FORMAT:
 114             if (ext.len >= sizeof(bs->backing_format)) {
 115                 fprintf(stderr, "ERROR: ext_backing_format: len=%u too large"
 116                         " (>=%zu)\n",
 117                         ext.len, sizeof(bs->backing_format));
 118                 return 2;
 119             }
 120             if (bdrv_pread(s->hd, offset , bs->backing_format,
 121                            ext.len) != ext.len)
 122                 return 3;
 123             bs->backing_format[ext.len] = '\0';
 124 #ifdef DEBUG_EXT
 125             printf("Qcow2: Got format extension %s\n", bs->backing_format);
 126 #endif
 127             offset = ((offset + ext.len + 7) & ~7);
 128             break;
 129
 130         default:
 131             /* unknown magic -- just skip it */
 132             offset = ((offset + ext.len + 7) & ~7);
 133             break;
 134         }
 135     }
 136
 137     return 0;
 138 }
 139
 140
 141 static int qcow_open(BlockDriverState *bs, const char *filename, int flags)
 142 {
 143     BDRVQcowState *s = bs->opaque;
 144     int len, i, shift, ret;
 145     QCowHeader header;
 146     uint64_t ext_end;
 147
 148     ret = bdrv_file_open(&s->hd, filename, flags);
 149     if (ret < 0)
 150         return ret;
 151     if (bdrv_pread(s->hd, 0, &header, sizeof(header)) != sizeof(header))
 152         goto fail;
 153     be32_to_cpus(&header.magic);
 154     be32_to_cpus(&header.version);
 155     be64_to_cpus(&header.backing_file_offset);
 156     be32_to_cpus(&header.backing_file_size);
 157     be64_to_cpus(&header.size);
 158     be32_to_cpus(&header.cluster_bits);
 159     be32_to_cpus(&header.crypt_method);
 160     be64_to_cpus(&header.l1_table_offset);
 161     be32_to_cpus(&header.l1_size);
 162     be64_to_cpus(&header.refcount_table_offset);
 163     be32_to_cpus(&header.refcount_table_clusters);
 164     be64_to_cpus(&header.snapshots_offset);
 165     be32_to_cpus(&header.nb_snapshots);
 166
 167     if (header.magic != QCOW_MAGIC || header.version != QCOW_VERSION)
 168         goto fail;
 169     if (header.cluster_bits < MIN_CLUSTER_BITS ||
 170         header.cluster_bits > MAX_CLUSTER_BITS)
 171         goto fail;
 172     if (header.crypt_method > QCOW_CRYPT_AES)
 173         goto fail;
 174     s->crypt_method_header = header.crypt_method;
 175     if (s->crypt_method_header)
 176         bs->encrypted = 1;
 177     s->cluster_bits = header.cluster_bits;
 178     s->cluster_size = 1 << s->cluster_bits;
 179     s->cluster_sectors = 1 << (s->cluster_bits - 9);
 180     s->l2_bits = s->cluster_bits - 3; /* L2 is always one cluster */
 181     s->l2_size = 1 << s->l2_bits;
 182     bs->total_sectors = header.size / 512;
 183     s->csize_shift = (62 - (s->cluster_bits - 8));
 184     s->csize_mask = (1 << (s->cluster_bits - 8)) - 1;
 185     s->cluster_offset_mask = (1LL << s->csize_shift) - 1;
 186     s->refcount_table_offset = header.refcount_table_offset;
 187     s->refcount_table_size =
 188         header.refcount_table_clusters << (s->cluster_bits - 3);
 189
 190     s->snapshots_offset = header.snapshots_offset;
 191     s->nb_snapshots = header.nb_snapshots;
 192
 193     /* read the level 1 table */
 194     s->l1_size = header.l1_size;
 195     shift = s->cluster_bits + s->l2_bits;
 196     s->l1_vm_state_index = (header.size + (1LL << shift) - 1) >> shift;
 197     /* the L1 table must contain at least enough entries to put
 198        header.size bytes */
 199     if (s->l1_size < s->l1_vm_state_index)
 200         goto fail;
 201     s->l1_table_offset = header.l1_table_offset;
 202     if (s->l1_size > 0) {
 203         s->l1_table = qemu_mallocz(
 204             align_offset(s->l1_size * sizeof(uint64_t), 512));
 205         if (bdrv_pread(s->hd, s->l1_table_offset, s->l1_table, s->l1_size * sizeof(uint64_t)) !=
 206             s->l1_size * sizeof(uint64_t))
 207             goto fail;
 208         for(i = 0;i < s->l1_size; i++) {
 209             be64_to_cpus(&s->l1_table[i]);
 210         }
 211     }
 212     /* alloc L2 cache */
 213     s->l2_cache = qemu_malloc(s->l2_size * L2_CACHE_SIZE * sizeof(uint64_t));
 214     s->cluster_cache = qemu_malloc(s->cluster_size);
 215     /* one more sector for decompressed data alignment */
 216     s->cluster_data = qemu_malloc(QCOW_MAX_CRYPT_CLUSTERS * s->cluster_size
 217                                   + 512);
 218     s->cluster_cache_offset = -1;
 219
 220     if (qcow2_refcount_init(bs) < 0)
 221         goto fail;
 222
 223     QLIST_INIT(&s->cluster_allocs);
 224
 225     /* read qcow2 extensions */
 226     if (header.backing_file_offset)
 227         ext_end = header.backing_file_offset;
 228     else
 229         ext_end = s->cluster_size;
 230     if (qcow_read_extensions(bs, sizeof(header), ext_end))
 231         goto fail;
 232
 233     /* read the backing file name */
 234     if (header.backing_file_offset != 0) {
 235         len = header.backing_file_size;
 236         if (len > 1023)
 237             len = 1023;
 238         if (bdrv_pread(s->hd, header.backing_file_offset, bs->backing_file, len) != len)
 239             goto fail;
 240         bs->backing_file[len] = '\0';
 241     }
 242     if (qcow2_read_snapshots(bs) < 0)
 243         goto fail;
 244
 245 #ifdef DEBUG_ALLOC
 246     qcow2_check_refcounts(bs);
 247 #endif
 248     return 0;
 249
 250  fail:
 251     qcow2_free_snapshots(bs);
 252     qcow2_refcount_close(bs);
 253     qemu_free(s->l1_table);
 254     qemu_free(s->l2_cache);
 255     qemu_free(s->cluster_cache);
 256     qemu_free(s->cluster_data);
 257     bdrv_delete(s->hd);
 258     return -1;
 259 }
 260
 261 static int qcow_set_key(BlockDriverState *bs, const char *key)
 262 {
 263     BDRVQcowState *s = bs->opaque;
 264     uint8_t keybuf[16];
 265     int len, i;
 266
 267     memset(keybuf, 0, 16);
 268     len = strlen(key);
 269     if (len > 16)
 270         len = 16;
 271     /* XXX: we could compress the chars to 7 bits to increase
 272        entropy */
 273     for(i = 0;i < len;i++) {
 274         keybuf[i] = key[i];
 275     }
 276     s->crypt_method = s->crypt_method_header;
 277
 278     if (AES_set_encrypt_key(keybuf, 128, &s->aes_encrypt_key) != 0)
 279         return -1;
 280     if (AES_set_decrypt_key(keybuf, 128, &s->aes_decrypt_key) != 0)
 281         return -1;
 282 #if 0
 283     /* test */
 284     {
 285         uint8_t in[16];
 286         uint8_t out[16];
 287         uint8_t tmp[16];
 288         for(i=0;i<16;i++)
 289             in[i] = i;
 290         AES_encrypt(in, tmp, &s->aes_encrypt_key);
 291         AES_decrypt(tmp, out, &s->aes_decrypt_key);
 292         for(i = 0; i < 16; i++)
 293             printf(" %02x", tmp[i]);
 294         printf("\n");
 295         for(i = 0; i < 16; i++)
 296             printf(" %02x", out[i]);
 297         printf("\n");
 298     }
 299 #endif
 300     return 0;
 301 }
 302
 303 static int qcow_is_allocated(BlockDriverState *bs, int64_t sector_num,
 304                              int nb_sectors, int *pnum)
 305 {
 306     uint64_t cluster_offset;
 307
 308     *pnum = nb_sectors;
 309     cluster_offset = qcow2_get_cluster_offset(bs, sector_num << 9, pnum);
 310
 311     return (cluster_offset != 0);
 312 }
 313
 314 /* handle reading after the end of the backing file */
 315 int qcow2_backing_read1(BlockDriverState *bs,
 316                   int64_t sector_num, uint8_t *buf, int nb_sectors)
 317 {
 318     int n1;
 319     if ((sector_num + nb_sectors) <= bs->total_sectors)
 320         return nb_sectors;
 321     if (sector_num >= bs->total_sectors)
 322         n1 = 0;
 323     else
 324         n1 = bs->total_sectors - sector_num;
 325     memset(buf + n1 * 512, 0, 512 * (nb_sectors - n1));
 326     return n1;
 327 }
 328
 329 typedef struct QCowAIOCB {
 330     BlockDriverAIOCB common;
 331     int64_t sector_num;
 332     QEMUIOVector *qiov;
 333     uint8_t *buf;
 334     void *orig_buf;
 335     int nb_sectors;
 336     int n;
 337     uint64_t cluster_offset;
 338     uint8_t *cluster_data;
 339     BlockDriverAIOCB *hd_aiocb;
 340     struct iovec hd_iov;
 341     QEMUIOVector hd_qiov;
 342     QEMUBH *bh;
 343     QCowL2Meta l2meta;
 344     QLIST_ENTRY(QCowAIOCB) next_depend;
 345 } QCowAIOCB;
 346
 347 static void qcow_aio_cancel(BlockDriverAIOCB *blockacb)
 348 {
 349     QCowAIOCB *acb = (QCowAIOCB *)blockacb;
 350     if (acb->hd_aiocb)
 351         bdrv_aio_cancel(acb->hd_aiocb);
 352     qemu_aio_release(acb);
 353 }
 354
 355 static AIOPool qcow_aio_pool = {
 356     .aiocb_size         = sizeof(QCowAIOCB),
 357     .cancel             = qcow_aio_cancel,
 358 };
 359
 360 static void qcow_aio_read_cb(void *opaque, int ret);
 361 static void qcow_aio_read_bh(void *opaque)
 362 {
 363     QCowAIOCB *acb = opaque;
 364     qemu_bh_delete(acb->bh);
 365     acb->bh = NULL;
 366     qcow_aio_read_cb(opaque, 0);
 367 }
 368
 369 static int qcow_schedule_bh(QEMUBHFunc *cb, QCowAIOCB *acb)
 370 {
 371     if (acb->bh)
 372         return -EIO;
 373
 374     acb->bh = qemu_bh_new(cb, acb);
 375     if (!acb->bh)
 376         return -EIO;
 377
 378     qemu_bh_schedule(acb->bh);
 379
 380     return 0;
 381 }
 382
 383 static void qcow_aio_read_cb(void *opaque, int ret)
 384 {
 385     QCowAIOCB *acb = opaque;
 386     BlockDriverState *bs = acb->common.bs;
 387     BDRVQcowState *s = bs->opaque;
 388     int index_in_cluster, n1;
 389
 390     acb->hd_aiocb = NULL;
 391     if (ret < 0)
 392         goto done;
 393
 394     /* post process the read buffer */
 395     if (!acb->cluster_offset) {
 396         /* nothing to do */
 397     } else if (acb->cluster_offset & QCOW_OFLAG_COMPRESSED) {
 398         /* nothing to do */
 399     } else {
 400         if (s->crypt_method) {
 401             qcow2_encrypt_sectors(s, acb->sector_num, acb->buf, acb->buf,
 402                             acb->n, 0,
 403                             &s->aes_decrypt_key);
 404         }
 405     }
 406
 407     acb->nb_sectors -= acb->n;
 408     acb->sector_num += acb->n;
 409     acb->buf += acb->n * 512;
 410
 411     if (acb->nb_sectors == 0) {
 412         /* request completed */
 413         ret = 0;
 414         goto done;
 415     }
 416
 417     /* prepare next AIO request */
 418     acb->n = acb->nb_sectors;
 419     acb->cluster_offset =
 420         qcow2_get_cluster_offset(bs, acb->sector_num << 9, &acb->n);
 421     index_in_cluster = acb->sector_num & (s->cluster_sectors - 1);
 422
 423     if (!acb->cluster_offset) {
 424         if (bs->backing_hd) {
 425             /* read from the base image */
 426             n1 = qcow2_backing_read1(bs->backing_hd, acb->sector_num,
 427                                acb->buf, acb->n);
 428             if (n1 > 0) {
 429                 acb->hd_iov.iov_base = (void *)acb->buf;
 430                 acb->hd_iov.iov_len = acb->n * 512;
 431                 qemu_iovec_init_external(&acb->hd_qiov, &acb->hd_iov, 1);
 432                 acb->hd_aiocb = bdrv_aio_readv(bs->backing_hd, acb->sector_num,
 433                                     &acb->hd_qiov, acb->n,
 434                                     qcow_aio_read_cb, acb);
 435                 if (acb->hd_aiocb == NULL)
 436                     goto done;
 437             } else {
 438                 ret = qcow_schedule_bh(qcow_aio_read_bh, acb);
 439                 if (ret < 0)
 440                     goto done;
 441             }
 442         } else {
 443             /* Note: in this case, no need to wait */
 444             memset(acb->buf, 0, 512 * acb->n);
 445             ret = qcow_schedule_bh(qcow_aio_read_bh, acb);
 446             if (ret < 0)
 447                 goto done;
 448         }
 449     } else if (acb->cluster_offset & QCOW_OFLAG_COMPRESSED) {
 450         /* add AIO support for compressed blocks ? */
 451         if (qcow2_decompress_cluster(s, acb->cluster_offset) < 0)
 452             goto done;
 453         memcpy(acb->buf,
 454                s->cluster_cache + index_in_cluster * 512, 512 * acb->n);
 455         ret = qcow_schedule_bh(qcow_aio_read_bh, acb);
 456         if (ret < 0)
 457             goto done;
 458     } else {
 459         if ((acb->cluster_offset & 511) != 0) {
 460             ret = -EIO;
 461             goto done;
 462         }
 463
 464         acb->hd_iov.iov_base = (void *)acb->buf;
 465         acb->hd_iov.iov_len = acb->n * 512;
 466         qemu_iovec_init_external(&acb->hd_qiov, &acb->hd_iov, 1);
 467         acb->hd_aiocb = bdrv_aio_readv(s->hd,
 468                             (acb->cluster_offset >> 9) + index_in_cluster,
 469                             &acb->hd_qiov, acb->n, qcow_aio_read_cb, acb);
 470         if (acb->hd_aiocb == NULL)
 471             goto done;
 472     }
 473
 474     return;
 475 done:
 476     if (acb->qiov->niov > 1) {
 477         qemu_iovec_from_buffer(acb->qiov, acb->orig_buf, acb->qiov->size);
 478         qemu_vfree(acb->orig_buf);
 479     }
 480     acb->common.cb(acb->common.opaque, ret);
 481     qemu_aio_release(acb);
 482 }
 483
 484 static QCowAIOCB *qcow_aio_setup(BlockDriverState *bs,
 485         int64_t sector_num, QEMUIOVector *qiov, int nb_sectors,
 486         BlockDriverCompletionFunc *cb, void *opaque, int is_write)
 487 {
 488     QCowAIOCB *acb;
 489
 490     acb = qemu_aio_get(&qcow_aio_pool, bs, cb, opaque);
 491     if (!acb)
 492         return NULL;
 493     acb->hd_aiocb = NULL;
 494     acb->sector_num = sector_num;
 495     acb->qiov = qiov;
 496     if (qiov->niov > 1) {
 497         acb->buf = acb->orig_buf = qemu_blockalign(bs, qiov->size);
 498         if (is_write)
 499             qemu_iovec_to_buffer(qiov, acb->buf);
 500     } else {
 501         acb->buf = (uint8_t *)qiov->iov->iov_base;
 502     }
 503     acb->nb_sectors = nb_sectors;
 504     acb->n = 0;
 505     acb->cluster_offset = 0;
 506     acb->l2meta.nb_clusters = 0;
 507     QLIST_INIT(&acb->l2meta.dependent_requests);
 508     return acb;
 509 }
 510
 511 static BlockDriverAIOCB *qcow_aio_readv(BlockDriverState *bs,
 512         int64_t sector_num, QEMUIOVector *qiov, int nb_sectors,
 513         BlockDriverCompletionFunc *cb, void *opaque)
 514 {
 515     QCowAIOCB *acb;
 516
 517     acb = qcow_aio_setup(bs, sector_num, qiov, nb_sectors, cb, opaque, 0);
 518     if (!acb)
 519         return NULL;
 520
 521     qcow_aio_read_cb(acb, 0);
 522     return &acb->common;
 523 }
 524
 525 static void qcow_aio_write_cb(void *opaque, int ret);
 526
 527 static void run_dependent_requests(QCowL2Meta *m)
 528 {
 529     QCowAIOCB *req;
 530     QCowAIOCB *next;
 531
 532     /* Take the request off the list of running requests */
 533     if (m->nb_clusters != 0) {
 534         QLIST_REMOVE(m, next_in_flight);
 535     }
 536
 537     /*
 538      * Restart all dependent requests.
 539      * Can't use QLIST_FOREACH here - the next link might not be the same
 540      * any more after the callback  (request could depend on a different
 541      * request now)
 542      */
 543     for (req = m->dependent_requests.lh_first; req != NULL; req = next) {
 544         next = req->next_depend.le_next;
 545         qcow_aio_write_cb(req, 0);
 546     }
 547
 548     /* Empty the list for the next part of the request */
 549     QLIST_INIT(&m->dependent_requests);
 550 }
 551
 552 static void qcow_aio_write_cb(void *opaque, int ret)
 553 {
 554     QCowAIOCB *acb = opaque;
 555     BlockDriverState *bs = acb->common.bs;
 556     BDRVQcowState *s = bs->opaque;
 557     int index_in_cluster;
 558     const uint8_t *src_buf;
 559     int n_end;
 560
 561     acb->hd_aiocb = NULL;
 562
 563     if (ret >= 0) {
 564         ret = qcow2_alloc_cluster_link_l2(bs, &acb->l2meta);
 565     }
 566
 567     run_dependent_requests(&acb->l2meta);
 568
 569     if (ret < 0)
 570         goto done;
 571
 572     acb->nb_sectors -= acb->n;
 573     acb->sector_num += acb->n;
 574     acb->buf += acb->n * 512;
 575
 576     if (acb->nb_sectors == 0) {
 577         /* request completed */
 578         ret = 0;
 579         goto done;
 580     }
 581
 582     index_in_cluster = acb->sector_num & (s->cluster_sectors - 1);
 583     n_end = index_in_cluster + acb->nb_sectors;
 584     if (s->crypt_method &&
 585         n_end > QCOW_MAX_CRYPT_CLUSTERS * s->cluster_sectors)
 586         n_end = QCOW_MAX_CRYPT_CLUSTERS * s->cluster_sectors;
 587
 588     ret = qcow2_alloc_cluster_offset(bs, acb->sector_num << 9,
 589         index_in_cluster, n_end, &acb->n, &acb->l2meta);
 590     if (ret < 0) {
 591         goto done;
 592     }
 593
 594     acb->cluster_offset = acb->l2meta.cluster_offset;
 595
 596     /* Need to wait for another request? If so, we are done for now. */
 597     if (acb->l2meta.nb_clusters == 0 && acb->l2meta.depends_on != NULL) {
 598         QLIST_INSERT_HEAD(&acb->l2meta.depends_on->dependent_requests,
 599             acb, next_depend);
 600         return;
 601     }
 602
 603     assert((acb->cluster_offset & 511) == 0);
 604
 605     if (s->crypt_method) {
 606         if (!acb->cluster_data) {
 607             acb->cluster_data = qemu_mallocz(QCOW_MAX_CRYPT_CLUSTERS *
 608                                              s->cluster_size);
 609         }
 610         qcow2_encrypt_sectors(s, acb->sector_num, acb->cluster_data, acb->buf,
 611                         acb->n, 1, &s->aes_encrypt_key);
 612         src_buf = acb->cluster_data;
 613     } else {
 614         src_buf = acb->buf;
 615     }
 616     acb->hd_iov.iov_base = (void *)src_buf;
 617     acb->hd_iov.iov_len = acb->n * 512;
 618     qemu_iovec_init_external(&acb->hd_qiov, &acb->hd_iov, 1);
 619     acb->hd_aiocb = bdrv_aio_writev(s->hd,
 620                                     (acb->cluster_offset >> 9) + index_in_cluster,
 621                                     &acb->hd_qiov, acb->n,
 622                                     qcow_aio_write_cb, acb);
 623     if (acb->hd_aiocb == NULL)
 624         goto done;
 625
 626     return;
 627
 628 done:
 629     if (acb->qiov->niov > 1)
 630         qemu_vfree(acb->orig_buf);
 631     acb->common.cb(acb->common.opaque, ret);
 632     qemu_aio_release(acb);
 633 }
 634
 635 static BlockDriverAIOCB *qcow_aio_writev(BlockDriverState *bs,
 636         int64_t sector_num, QEMUIOVector *qiov, int nb_sectors,
 637         BlockDriverCompletionFunc *cb, void *opaque)
 638 {
 639     BDRVQcowState *s = bs->opaque;
 640     QCowAIOCB *acb;
 641
 642     s->cluster_cache_offset = -1; /* disable compressed cache */
 643
 644     acb = qcow_aio_setup(bs, sector_num, qiov, nb_sectors, cb, opaque, 1);
 645     if (!acb)
 646         return NULL;
 647
 648     qcow_aio_write_cb(acb, 0);
 649     return &acb->common;
 650 }
 651
 652 static void qcow_close(BlockDriverState *bs)
 653 {
 654     BDRVQcowState *s = bs->opaque;
 655     qemu_free(s->l1_table);
 656     qemu_free(s->l2_cache);
 657     qemu_free(s->cluster_cache);
 658     qemu_free(s->cluster_data);
 659     qcow2_refcount_close(bs);
 660     bdrv_delete(s->hd);
 661 }
 662
 663 /*
 664  * Updates the variable length parts of the qcow2 header, i.e. the backing file
 665  * name and all extensions. qcow2 was not designed to allow such changes, so if
 666  * we run out of space (we can only use the first cluster) this function may
 667  * fail.
 668  *
 669  * Returns 0 on success, -errno in error cases.
 670  */
 671 static int qcow2_update_ext_header(BlockDriverState *bs,
 672     const char *backing_file, const char *backing_fmt)
 673 {
 674     size_t backing_file_len = 0;
 675     size_t backing_fmt_len = 0;
 676     BDRVQcowState *s = bs->opaque;
 677     QCowExtension ext_backing_fmt = {0, 0};
 678     int ret;
 679
 680     /* Backing file format doesn't make sense without a backing file */
 681     if (backing_fmt && !backing_file) {
 682         return -EINVAL;
 683     }
 684
 685     /* Prepare the backing file format extension if needed */
 686     if (backing_fmt) {
 687         ext_backing_fmt.len = cpu_to_be32(strlen(backing_fmt));
 688         ext_backing_fmt.magic = cpu_to_be32(QCOW_EXT_MAGIC_BACKING_FORMAT);
 689         backing_fmt_len = ((sizeof(ext_backing_fmt)
 690             + strlen(backing_fmt) + 7) & ~7);
 691     }
 692
 693     /* Check if we can fit the new header into the first cluster */
 694     if (backing_file) {
 695         backing_file_len = strlen(backing_file);
 696     }
 697
 698     size_t header_size = sizeof(QCowHeader) + backing_file_len
 699         + backing_fmt_len;
 700
 701     if (header_size > s->cluster_size) {
 702         return -ENOSPC;
 703     }
 704
 705     /* Rewrite backing file name and qcow2 extensions */
 706     size_t ext_size = header_size - sizeof(QCowHeader);
 707     uint8_t buf[ext_size];
 708     size_t offset = 0;
 709     size_t backing_file_offset = 0;
 710
 711     if (backing_file) {
 712         if (backing_fmt) {
 713             int padding = backing_fmt_len -
 714                 (sizeof(ext_backing_fmt) + strlen(backing_fmt));
 715
 716             memcpy(buf + offset, &ext_backing_fmt, sizeof(ext_backing_fmt));
 717             offset += sizeof(ext_backing_fmt);
 718
 719             memcpy(buf + offset, backing_fmt, strlen(backing_fmt));
 720             offset += strlen(backing_fmt);
 721
 722             memset(buf + offset, 0, padding);
 723             offset += padding;
 724         }
 725
 726         memcpy(buf + offset, backing_file, backing_file_len);
 727         backing_file_offset = sizeof(QCowHeader) + offset;
 728     }
 729
 730     ret = bdrv_pwrite(s->hd, sizeof(QCowHeader), buf, ext_size);
 731     if (ret < 0) {
 732         goto fail;
 733     }
 734
 735     /* Update header fields */
 736     uint64_t be_backing_file_offset = cpu_to_be64(backing_file_offset);
 737     uint32_t be_backing_file_size = cpu_to_be32(backing_file_len);
 738
 739     ret = bdrv_pwrite(s->hd, offsetof(QCowHeader, backing_file_offset),
 740         &be_backing_file_offset, sizeof(uint64_t));
 741     if (ret < 0) {
 742         goto fail;
 743     }
 744
 745     ret = bdrv_pwrite(s->hd, offsetof(QCowHeader, backing_file_size),
 746         &be_backing_file_size, sizeof(uint32_t));
 747     if (ret < 0) {
 748         goto fail;
 749     }
 750
 751     ret = 0;
 752 fail:
 753     return ret;
 754 }
 755
 756 static int qcow2_change_backing_file(BlockDriverState *bs,
 757     const char *backing_file, const char *backing_fmt)
 758 {
 759     return qcow2_update_ext_header(bs, backing_file, backing_fmt);
 760 }
 761
 762 static int get_bits_from_size(size_t size)
 763 {
 764     int res = 0;
 765
 766     if (size == 0) {
 767         return -1;
 768     }
 769
 770     while (size != 1) {
 771         /* Not a power of two */
 772         if (size & 1) {
 773             return -1;
 774         }
 775
 776         size >>= 1;
 777         res++;
 778     }
 779
 780     return res;
 781 }
 782
 783
 784 static int preallocate(BlockDriverState *bs)
 785 {
 786     BDRVQcowState *s = bs->opaque;
 787     uint64_t nb_sectors;
 788     uint64_t offset;
 789     int num;
 790     int ret;
 791     QCowL2Meta meta;
 792
 793     nb_sectors = bdrv_getlength(bs) >> 9;
 794     offset = 0;
 795     QLIST_INIT(&meta.dependent_requests);
 796     meta.cluster_offset = 0;
 797
 798     while (nb_sectors) {
 799         num = MIN(nb_sectors, INT_MAX >> 9);
 800         ret = qcow2_alloc_cluster_offset(bs, offset, 0, num, &num, &meta);
 801
 802         if (ret < 0) {
 803             return -1;
 804         }
 805
 806         if (qcow2_alloc_cluster_link_l2(bs, &meta) < 0) {
 807             qcow2_free_any_clusters(bs, meta.cluster_offset, meta.nb_clusters);
 808             return -1;
 809         }
 810
 811         /* There are no dependent requests, but we need to remove our request
 812          * from the list of in-flight requests */
 813         run_dependent_requests(&meta);
 814
 815         /* TODO Preallocate data if requested */
 816
 817         nb_sectors -= num;
 818         offset += num << 9;
 819     }
 820
 821     /*
 822      * It is expected that the image file is large enough to actually contain
 823      * all of the allocated clusters (otherwise we get failing reads after
 824      * EOF). Extend the image to the last allocated sector.
 825      */
 826     if (meta.cluster_offset != 0) {
 827         uint8_t buf[512];
 828         memset(buf, 0, 512);
 829         bdrv_write(s->hd, (meta.cluster_offset >> 9) + num - 1, buf, 1);
 830     }
 831
 832     return 0;
 833 }
 834
 835 static int qcow_create2(const char *filename, int64_t total_size,
 836                         const char *backing_file, const char *backing_format,
 837                         int flags, size_t cluster_size, int prealloc)
 838 {
 839
 840     int fd, header_size, backing_filename_len, l1_size, i, shift, l2_bits;
 841     int ref_clusters, backing_format_len = 0;
 842     int rounded_ext_bf_len = 0;
 843     QCowHeader header;
 844     uint64_t tmp, offset;
 845     QCowCreateState s1, *s = &s1;
 846     QCowExtension ext_bf = {0, 0};
 847     int ret;
 848
 849     memset(s, 0, sizeof(*s));
 850
 851     fd = open(filename, O_WRONLY | O_CREAT | O_TRUNC | O_BINARY, 0644);
 852     if (fd < 0)
 853         return -1;
 854     memset(&header, 0, sizeof(header));
 855     header.magic = cpu_to_be32(QCOW_MAGIC);
 856     header.version = cpu_to_be32(QCOW_VERSION);
 857     header.size = cpu_to_be64(total_size * 512);
 858     header_size = sizeof(header);
 859     backing_filename_len = 0;
 860     if (backing_file) {
 861         if (backing_format) {
 862             ext_bf.magic = QCOW_EXT_MAGIC_BACKING_FORMAT;
 863             backing_format_len = strlen(backing_format);
 864             ext_bf.len = backing_format_len;
 865             rounded_ext_bf_len = (sizeof(ext_bf) + ext_bf.len + 7) & ~7;
 866             header_size += rounded_ext_bf_len;
 867         }
 868         header.backing_file_offset = cpu_to_be64(header_size);
 869         backing_filename_len = strlen(backing_file);
 870         header.backing_file_size = cpu_to_be32(backing_filename_len);
 871         header_size += backing_filename_len;
 872     }
 873
 874     /* Cluster size */
 875     s->cluster_bits = get_bits_from_size(cluster_size);
 876     if (s->cluster_bits < MIN_CLUSTER_BITS ||
 877         s->cluster_bits > MAX_CLUSTER_BITS)
 878     {
 879         fprintf(stderr, "Cluster size must be a power of two between "
 880             "%d and %dk\n",
 881             1 << MIN_CLUSTER_BITS,
 882             1 << (MAX_CLUSTER_BITS - 10));
 883         return -EINVAL;
 884     }
 885     s->cluster_size = 1 << s->cluster_bits;
 886
 887     header.cluster_bits = cpu_to_be32(s->cluster_bits);
 888     header_size = (header_size + 7) & ~7;
 889     if (flags & BLOCK_FLAG_ENCRYPT) {
 890         header.crypt_method = cpu_to_be32(QCOW_CRYPT_AES);
 891     } else {
 892         header.crypt_method = cpu_to_be32(QCOW_CRYPT_NONE);
 893     }
 894     l2_bits = s->cluster_bits - 3;
 895     shift = s->cluster_bits + l2_bits;
 896     l1_size = (((total_size * 512) + (1LL << shift) - 1) >> shift);
 897     offset = align_offset(header_size, s->cluster_size);
 898     s->l1_table_offset = offset;
 899     header.l1_table_offset = cpu_to_be64(s->l1_table_offset);
 900     header.l1_size = cpu_to_be32(l1_size);
 901     offset += align_offset(l1_size * sizeof(uint64_t), s->cluster_size);
 902
 903     s->refcount_table = qemu_mallocz(s->cluster_size);
 904
 905     s->refcount_table_offset = offset;
 906     header.refcount_table_offset = cpu_to_be64(offset);
 907     header.refcount_table_clusters = cpu_to_be32(1);
 908     offset += s->cluster_size;
 909     s->refcount_block_offset = offset;
 910
 911     /* count how many refcount blocks needed */
 912     tmp = offset >> s->cluster_bits;
 913     ref_clusters = (tmp >> (s->cluster_bits - REFCOUNT_SHIFT)) + 1;
 914     for (i=0; i < ref_clusters; i++) {
 915         s->refcount_table[i] = cpu_to_be64(offset);
 916         offset += s->cluster_size;
 917     }
 918
 919     s->refcount_block = qemu_mallocz(ref_clusters * s->cluster_size);
 920
 921     /* update refcounts */
 922     qcow2_create_refcount_update(s, 0, header_size);
 923     qcow2_create_refcount_update(s, s->l1_table_offset,
 924         l1_size * sizeof(uint64_t));
 925     qcow2_create_refcount_update(s, s->refcount_table_offset, s->cluster_size);
 926     qcow2_create_refcount_update(s, s->refcount_block_offset,
 927         ref_clusters * s->cluster_size);
 928
 929     /* write all the data */
 930     ret = qemu_write_full(fd, &header, sizeof(header));
 931     if (ret != sizeof(header)) {
 932         ret = -1;
 933         goto exit;
 934     }
 935     if (backing_file) {
 936         if (backing_format_len) {
 937             char zero[16];
 938             int padding = rounded_ext_bf_len - (ext_bf.len + sizeof(ext_bf));
 939
 940             memset(zero, 0, sizeof(zero));
 941             cpu_to_be32s(&ext_bf.magic);
 942             cpu_to_be32s(&ext_bf.len);
 943             ret = qemu_write_full(fd, &ext_bf, sizeof(ext_bf));
 944             if (ret != sizeof(ext_bf)) {
 945                 ret = -1;
 946                 goto exit;
 947             }
 948             ret = qemu_write_full(fd, backing_format, backing_format_len);
 949             if (ret != backing_format_len) {
 950                 ret = -1;
 951                 goto exit;
 952             }
 953             if (padding > 0) {
 954                 ret = qemu_write_full(fd, zero, padding);
 955                 if (ret != padding) {
 956                     ret = -1;
 957                     goto exit;
 958                 }
 959             }
 960         }
 961         ret = qemu_write_full(fd, backing_file, backing_filename_len);
 962         if (ret != backing_filename_len) {
 963             ret = -1;
 964             goto exit;
 965         }
 966     }
 967     lseek(fd, s->l1_table_offset, SEEK_SET);
 968     tmp = 0;
 969     for(i = 0;i < l1_size; i++) {
 970         ret = qemu_write_full(fd, &tmp, sizeof(tmp));
 971         if (ret != sizeof(tmp)) {
 972             ret = -1;
 973             goto exit;
 974         }
 975     }
 976     lseek(fd, s->refcount_table_offset, SEEK_SET);
 977     ret = qemu_write_full(fd, s->refcount_table, s->cluster_size);
 978     if (ret != s->cluster_size) {
 979         ret = -1;
 980         goto exit;
 981     }
 982
 983     lseek(fd, s->refcount_block_offset, SEEK_SET);
 984     ret = qemu_write_full(fd, s->refcount_block,
 985                     ref_clusters * s->cluster_size);
 986     if (ret != s->cluster_size) {
 987         ret = -1;
 988         goto exit;
 989     }
 990
 991     ret = 0;
 992 exit:
 993     qemu_free(s->refcount_table);
 994     qemu_free(s->refcount_block);
 995     close(fd);
 996
 997     /* Preallocate metadata */
 998     if (prealloc) {
 999         BlockDriverState *bs;
1000         bs = bdrv_new("");
1001         bdrv_open(bs, filename, BDRV_O_CACHE_WB | BDRV_O_RDWR);
1002         preallocate(bs);
1003         bdrv_close(bs);
1004     }
1005
1006     return ret;
1007 }
1008
1009 static int qcow_create(const char *filename, QEMUOptionParameter *options)
1010 {
1011     const char *backing_file = NULL;
1012     const char *backing_fmt = NULL;
1013     uint64_t sectors = 0;
1014     int flags = 0;
1015     size_t cluster_size = 65536;
1016     int prealloc = 0;
1017
1018     /* Read out options */
1019     while (options && options->name) {
1020         if (!strcmp(options->name, BLOCK_OPT_SIZE)) {
1021             sectors = options->value.n / 512;
1022         } else if (!strcmp(options->name, BLOCK_OPT_BACKING_FILE)) {
1023             backing_file = options->value.s;
1024         } else if (!strcmp(options->name, BLOCK_OPT_BACKING_FMT)) {
1025             backing_fmt = options->value.s;
1026         } else if (!strcmp(options->name, BLOCK_OPT_ENCRYPT)) {
1027             flags |= options->value.n ? BLOCK_FLAG_ENCRYPT : 0;
1028         } else if (!strcmp(options->name, BLOCK_OPT_CLUSTER_SIZE)) {
1029             if (options->value.n) {
1030                 cluster_size = options->value.n;
1031             }
1032         } else if (!strcmp(options->name, BLOCK_OPT_PREALLOC)) {
1033             if (!options->value.s || !strcmp(options->value.s, "off")) {
1034                 prealloc = 0;
1035             } else if (!strcmp(options->value.s, "metadata")) {
1036                 prealloc = 1;
1037             } else {
1038                 fprintf(stderr, "Invalid preallocation mode: '%s'\n",
1039                     options->value.s);
1040                 return -EINVAL;
1041             }
1042         }
1043         options++;
1044     }
1045
1046     if (backing_file && prealloc) {
1047         fprintf(stderr, "Backing file and preallocation cannot be used at "
1048             "the same time\n");
1049         return -EINVAL;
1050     }
1051
1052     return qcow_create2(filename, sectors, backing_file, backing_fmt, flags,
1053         cluster_size, prealloc);
1054 }
1055
1056 static int qcow_make_empty(BlockDriverState *bs)
1057 {
1058 #if 0
1059     /* XXX: not correct */
1060     BDRVQcowState *s = bs->opaque;
1061     uint32_t l1_length = s->l1_size * sizeof(uint64_t);
1062     int ret;
1063
1064     memset(s->l1_table, 0, l1_length);
1065     if (bdrv_pwrite(s->hd, s->l1_table_offset, s->l1_table, l1_length) < 0)
1066         return -1;
1067     ret = bdrv_truncate(s->hd, s->l1_table_offset + l1_length);
1068     if (ret < 0)
1069         return ret;
1070
1071     l2_cache_reset(bs);
1072 #endif
1073     return 0;
1074 }
1075
1076 /* XXX: put compressed sectors first, then all the cluster aligned
1077    tables to avoid losing bytes in alignment */
1078 static int qcow_write_compressed(BlockDriverState *bs, int64_t sector_num,
1079                                  const uint8_t *buf, int nb_sectors)
1080 {
1081     BDRVQcowState *s = bs->opaque;
1082     z_stream strm;
1083     int ret, out_len;
1084     uint8_t *out_buf;
1085     uint64_t cluster_offset;
1086
1087     if (nb_sectors == 0) {
1088         /* align end of file to a sector boundary to ease reading with
1089            sector based I/Os */
1090         cluster_offset = bdrv_getlength(s->hd);
1091         cluster_offset = (cluster_offset + 511) & ~511;
1092         bdrv_truncate(s->hd, cluster_offset);
1093         return 0;
1094     }
1095
1096     if (nb_sectors != s->cluster_sectors)
1097         return -EINVAL;
1098
1099     out_buf = qemu_malloc(s->cluster_size + (s->cluster_size / 1000) + 128);
1100
1101     /* best compression, small window, no zlib header */
1102     memset(&strm, 0, sizeof(strm));
1103     ret = deflateInit2(&strm, Z_DEFAULT_COMPRESSION,
1104                        Z_DEFLATED, -12,
1105                        9, Z_DEFAULT_STRATEGY);
1106     if (ret != 0) {
1107         qemu_free(out_buf);
1108         return -1;
1109     }
1110
1111     strm.avail_in = s->cluster_size;
1112     strm.next_in = (uint8_t *)buf;
1113     strm.avail_out = s->cluster_size;
1114     strm.next_out = out_buf;
1115
1116     ret = deflate(&strm, Z_FINISH);
1117     if (ret != Z_STREAM_END && ret != Z_OK) {
1118         qemu_free(out_buf);
1119         deflateEnd(&strm);
1120         return -1;
1121     }
1122     out_len = strm.next_out - out_buf;
1123
1124     deflateEnd(&strm);
1125
1126     if (ret != Z_STREAM_END || out_len >= s->cluster_size) {
1127         /* could not compress: write normal cluster */
1128         bdrv_write(bs, sector_num, buf, s->cluster_sectors);
1129     } else {
1130         cluster_offset = qcow2_alloc_compressed_cluster_offset(bs,
1131             sector_num << 9, out_len);
1132         if (!cluster_offset)
1133             return -1;
1134         cluster_offset &= s->cluster_offset_mask;
1135         if (bdrv_pwrite(s->hd, cluster_offset, out_buf, out_len) != out_len) {
1136             qemu_free(out_buf);
1137             return -1;
1138         }
1139     }
1140
1141     qemu_free(out_buf);
1142     return 0;
1143 }
1144
1145 static void qcow_flush(BlockDriverState *bs)
1146 {
1147     BDRVQcowState *s = bs->opaque;
1148     bdrv_flush(s->hd);
1149 }
1150
1151 static BlockDriverAIOCB *qcow_aio_flush(BlockDriverState *bs,
1152          BlockDriverCompletionFunc *cb, void *opaque)
1153 {
1154      BDRVQcowState *s = bs->opaque;
1155
1156      return bdrv_aio_flush(s->hd, cb, opaque);
1157 }
1158
1159 static int64_t qcow_vm_state_offset(BDRVQcowState *s)
1160 {
1161         return (int64_t)s->l1_vm_state_index << (s->cluster_bits + s->l2_bits);
1162 }
1163
1164 static int qcow_get_info(BlockDriverState *bs, BlockDriverInfo *bdi)
1165 {
1166     BDRVQcowState *s = bs->opaque;
1167     bdi->cluster_size = s->cluster_size;
1168     bdi->vm_state_offset = qcow_vm_state_offset(s);
1169     return 0;
1170 }
1171
1172
1173 static int qcow_check(BlockDriverState *bs)
1174 {
1175     return qcow2_check_refcounts(bs);
1176 }
1177
1178 #if 0
1179 static void dump_refcounts(BlockDriverState *bs)
1180 {
1181     BDRVQcowState *s = bs->opaque;
1182     int64_t nb_clusters, k, k1, size;
1183     int refcount;
1184
1185     size = bdrv_getlength(s->hd);
1186     nb_clusters = size_to_clusters(s, size);
1187     for(k = 0; k < nb_clusters;) {
1188         k1 = k;
1189         refcount = get_refcount(bs, k);
1190         k++;
1191         while (k < nb_clusters && get_refcount(bs, k) == refcount)
1192             k++;
1193         printf("%lld: refcount=%d nb=%lld\n", k, refcount, k - k1);
1194     }
1195 }
1196 #endif
1197
1198 static int qcow_save_vmstate(BlockDriverState *bs, const uint8_t *buf,
1199                            int64_t pos, int size)
1200 {
1201     BDRVQcowState *s = bs->opaque;
1202     int growable = bs->growable;
1203     int ret;
1204
1205     bs->growable = 1;
1206     ret = bdrv_pwrite(bs, qcow_vm_state_offset(s) + pos, buf, size);
1207     bs->growable = growable;
1208
1209     return ret;
1210 }
1211
1212 static int qcow_load_vmstate(BlockDriverState *bs, uint8_t *buf,
1213                            int64_t pos, int size)
1214 {
1215     BDRVQcowState *s = bs->opaque;
1216     int growable = bs->growable;
1217     int ret;
1218
1219     bs->growable = 1;
1220     ret = bdrv_pread(bs, qcow_vm_state_offset(s) + pos, buf, size);
1221     bs->growable = growable;
1222
1223     return ret;
1224 }
1225
1226 static QEMUOptionParameter qcow_create_options[] = {
1227     {
1228         .name = BLOCK_OPT_SIZE,
1229         .type = OPT_SIZE,
1230         .help = "Virtual disk size"
1231     },
1232     {
1233         .name = BLOCK_OPT_BACKING_FILE,
1234         .type = OPT_STRING,
1235         .help = "File name of a base image"
1236     },
1237     {
1238         .name = BLOCK_OPT_BACKING_FMT,
1239         .type = OPT_STRING,
1240         .help = "Image format of the base image"
1241     },
1242     {
1243         .name = BLOCK_OPT_ENCRYPT,
1244         .type = OPT_FLAG,
1245         .help = "Encrypt the image"
1246     },
1247     {
1248         .name = BLOCK_OPT_CLUSTER_SIZE,
1249         .type = OPT_SIZE,
1250         .help = "qcow2 cluster size"
1251     },
1252     {
1253         .name = BLOCK_OPT_PREALLOC,
1254         .type = OPT_STRING,
1255         .help = "Preallocation mode (allowed values: off, metadata)"
1256     },
1257     { NULL }
1258 };
1259
1260 static BlockDriver bdrv_qcow2 = {
1261     .format_name        = "qcow2",
1262     .instance_size      = sizeof(BDRVQcowState),
1263     .bdrv_probe         = qcow_probe,
1264     .bdrv_open          = qcow_open,
1265     .bdrv_close         = qcow_close,
1266     .bdrv_create        = qcow_create,
1267     .bdrv_flush         = qcow_flush,
1268     .bdrv_is_allocated  = qcow_is_allocated,
1269     .bdrv_set_key       = qcow_set_key,
1270     .bdrv_make_empty    = qcow_make_empty,
1271
1272     .bdrv_aio_readv     = qcow_aio_readv,
1273     .bdrv_aio_writev    = qcow_aio_writev,
1274     .bdrv_aio_flush     = qcow_aio_flush,
1275     .bdrv_write_compressed = qcow_write_compressed,
1276
1277     .bdrv_snapshot_create   = qcow2_snapshot_create,
1278     .bdrv_snapshot_goto     = qcow2_snapshot_goto,
1279     .bdrv_snapshot_delete   = qcow2_snapshot_delete,
1280     .bdrv_snapshot_list     = qcow2_snapshot_list,
1281     .bdrv_get_info      = qcow_get_info,
1282
1283     .bdrv_save_vmstate    = qcow_save_vmstate,
1284     .bdrv_load_vmstate    = qcow_load_vmstate,
1285
1286     .bdrv_change_backing_file   = qcow2_change_backing_file,
1287
1288     .create_options = qcow_create_options,
1289     .bdrv_check = qcow_check,
1290 };
1291
1292 static void bdrv_qcow2_init(void)
1293 {
1294     bdrv_register(&bdrv_qcow2);
1295 }
1296
1297 block_init(bdrv_qcow2_init);