fs/ext4/move_extent.c

   1 /*
   2  * Copyright (c) 2008,2009 NEC Software Tohoku, Ltd.
   3  * Written by Takashi Sato <t-sato@yk.jp.nec.com>
   4  *            Akira Fujita <a-fujita@rs.jp.nec.com>
   5  *
   6  * This program is free software; you can redistribute it and/or modify it
   7  * under the terms of version 2.1 of the GNU Lesser General Public License
   8  * as published by the Free Software Foundation.
   9  *
  10  * This program is distributed in the hope that it will be useful,
  11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
  13  * GNU General Public License for more details.
  14  */
  15
  16 #include <linux/fs.h>
  17 #include <linux/quotaops.h>
  18 #include "ext4_jbd2.h"
  19 #include "ext4_extents.h"
  20 #include "ext4.h"
  21
  22 /**
  23  * get_ext_path - Find an extent path for designated logical block number.
  24  *
  25  * @inode:      an inode which is searched
  26  * @lblock:     logical block number to find an extent path
  27  * @path:       pointer to an extent path pointer (for output)
  28  *
  29  * ext4_ext_find_extent wrapper. Return 0 on success, or a negative error value
  30  * on failure.
  31  */
  32 static inline int
  33 get_ext_path(struct inode *inode, ext4_lblk_t lblock,
  34                 struct ext4_ext_path **path)
  35 {
  36         int ret = 0;
  37
  38         *path = ext4_ext_find_extent(inode, lblock, *path);
  39         if (IS_ERR(*path)) {
  40                 ret = PTR_ERR(*path);
  41                 *path = NULL;
  42         } else if ((*path)[ext_depth(inode)].p_ext == NULL)
  43                 ret = -ENODATA;
  44
  45         return ret;
  46 }
  47
  48 /**
  49  * copy_extent_status - Copy the extent's initialization status
  50  *
  51  * @src:        an extent for getting initialize status
  52  * @dest:       an extent to be set the status
  53  */
  54 static void
  55 copy_extent_status(struct ext4_extent *src, struct ext4_extent *dest)
  56 {
  57         if (ext4_ext_is_uninitialized(src))
  58                 ext4_ext_mark_uninitialized(dest);
  59         else
  60                 dest->ee_len = cpu_to_le16(ext4_ext_get_actual_len(dest));
  61 }
  62
  63 /**
  64  * mext_next_extent - Search for the next extent and set it to "extent"
  65  *
  66  * @inode:      inode which is searched
  67  * @path:       this will obtain data for the next extent
  68  * @extent:     pointer to the next extent we have just gotten
  69  *
  70  * Search the next extent in the array of ext4_ext_path structure (@path)
  71  * and set it to ext4_extent structure (@extent). In addition, the member of
  72  * @path (->p_ext) also points the next extent. Return 0 on success, 1 if
  73  * ext4_ext_path structure refers to the last extent, or a negative error
  74  * value on failure.
  75  */
  76 static int
  77 mext_next_extent(struct inode *inode, struct ext4_ext_path *path,
  78                       struct ext4_extent **extent)
  79 {
  80         int ppos, leaf_ppos = path->p_depth;
  81
  82         ppos = leaf_ppos;
  83         if (EXT_LAST_EXTENT(path[ppos].p_hdr) > path[ppos].p_ext) {
  84                 /* leaf block */
  85                 *extent = ++path[ppos].p_ext;
  86                 return 0;
  87         }
  88
  89         while (--ppos >= 0) {
  90                 if (EXT_LAST_INDEX(path[ppos].p_hdr) >
  91                     path[ppos].p_idx) {
  92                         int cur_ppos = ppos;
  93
  94                         /* index block */
  95                         path[ppos].p_idx++;
  96                         path[ppos].p_block = idx_pblock(path[ppos].p_idx);
  97                         if (path[ppos+1].p_bh)
  98                                 brelse(path[ppos+1].p_bh);
  99                         path[ppos+1].p_bh =
 100                                 sb_bread(inode->i_sb, path[ppos].p_block);
 101                         if (!path[ppos+1].p_bh)
 102                                 return -EIO;
 103                         path[ppos+1].p_hdr =
 104                                 ext_block_hdr(path[ppos+1].p_bh);
 105
 106                         /* Halfway index block */
 107                         while (++cur_ppos < leaf_ppos) {
 108                                 path[cur_ppos].p_idx =
 109                                         EXT_FIRST_INDEX(path[cur_ppos].p_hdr);
 110                                 path[cur_ppos].p_block =
 111                                         idx_pblock(path[cur_ppos].p_idx);
 112                                 if (path[cur_ppos+1].p_bh)
 113                                         brelse(path[cur_ppos+1].p_bh);
 114                                 path[cur_ppos+1].p_bh = sb_bread(inode->i_sb,
 115                                         path[cur_ppos].p_block);
 116                                 if (!path[cur_ppos+1].p_bh)
 117                                         return -EIO;
 118                                 path[cur_ppos+1].p_hdr =
 119                                         ext_block_hdr(path[cur_ppos+1].p_bh);
 120                         }
 121
 122                         /* leaf block */
 123                         path[leaf_ppos].p_ext = *extent =
 124                                 EXT_FIRST_EXTENT(path[leaf_ppos].p_hdr);
 125                         return 0;
 126                 }
 127         }
 128         /* We found the last extent */
 129         return 1;
 130 }
 131
 132 /**
 133  * mext_check_null_inode - NULL check for two inodes
 134  *
 135  * If inode1 or inode2 is NULL, return -EIO. Otherwise, return 0.
 136  */
 137 static int
 138 mext_check_null_inode(struct inode *inode1, struct inode *inode2,
 139                 const char *function)
 140 {
 141         int ret = 0;
 142
 143         if (inode1 == NULL) {
 144                 ext4_error(inode2->i_sb, function,
 145                         "Both inodes should not be NULL: "
 146                         "inode1 NULL inode2 %lu", inode2->i_ino);
 147                 ret = -EIO;
 148         } else if (inode2 == NULL) {
 149                 ext4_error(inode1->i_sb, function,
 150                         "Both inodes should not be NULL: "
 151                         "inode1 %lu inode2 NULL", inode1->i_ino);
 152                 ret = -EIO;
 153         }
 154         return ret;
 155 }
 156
 157 /**
 158  * mext_double_down_read - Acquire two inodes' read semaphore
 159  *
 160  * @orig_inode:         original inode structure
 161  * @donor_inode:        donor inode structure
 162  * Acquire read semaphore of the two inodes (orig and donor) by i_ino order.
 163  */
 164 static void
 165 mext_double_down_read(struct inode *orig_inode, struct inode *donor_inode)
 166 {
 167         struct inode *first = orig_inode, *second = donor_inode;
 168
 169         /*
 170          * Use the inode number to provide the stable locking order instead
 171          * of its address, because the C language doesn't guarantee you can
 172          * compare pointers that don't come from the same array.
 173          */
 174         if (donor_inode->i_ino < orig_inode->i_ino) {
 175                 first = donor_inode;
 176                 second = orig_inode;
 177         }
 178
 179         down_read(&EXT4_I(first)->i_data_sem);
 180         down_read(&EXT4_I(second)->i_data_sem);
 181 }
 182
 183 /**
 184  * mext_double_down_write - Acquire two inodes' write semaphore
 185  *
 186  * @orig_inode:         original inode structure
 187  * @donor_inode:        donor inode structure
 188  * Acquire write semaphore of the two inodes (orig and donor) by i_ino order.
 189  */
 190 static void
 191 mext_double_down_write(struct inode *orig_inode, struct inode *donor_inode)
 192 {
 193         struct inode *first = orig_inode, *second = donor_inode;
 194
 195         /*
 196          * Use the inode number to provide the stable locking order instead
 197          * of its address, because the C language doesn't guarantee you can
 198          * compare pointers that don't come from the same array.
 199          */
 200         if (donor_inode->i_ino < orig_inode->i_ino) {
 201                 first = donor_inode;
 202                 second = orig_inode;
 203         }
 204
 205         down_write(&EXT4_I(first)->i_data_sem);
 206         down_write(&EXT4_I(second)->i_data_sem);
 207 }
 208
 209 /**
 210  * mext_double_up_read - Release two inodes' read semaphore
 211  *
 212  * @orig_inode:         original inode structure to be released its lock first
 213  * @donor_inode:        donor inode structure to be released its lock second
 214  * Release read semaphore of two inodes (orig and donor).
 215  */
 216 static void
 217 mext_double_up_read(struct inode *orig_inode, struct inode *donor_inode)
 218 {
 219         up_read(&EXT4_I(orig_inode)->i_data_sem);
 220         up_read(&EXT4_I(donor_inode)->i_data_sem);
 221 }
 222
 223 /**
 224  * mext_double_up_write - Release two inodes' write semaphore
 225  *
 226  * @orig_inode:         original inode structure to be released its lock first
 227  * @donor_inode:        donor inode structure to be released its lock second
 228  * Release write semaphore of two inodes (orig and donor).
 229  */
 230 static void
 231 mext_double_up_write(struct inode *orig_inode, struct inode *donor_inode)
 232 {
 233         up_write(&EXT4_I(orig_inode)->i_data_sem);
 234         up_write(&EXT4_I(donor_inode)->i_data_sem);
 235 }
 236
 237 /**
 238  * mext_insert_across_blocks - Insert extents across leaf block
 239  *
 240  * @handle:             journal handle
 241  * @orig_inode:         original inode
 242  * @o_start:            first original extent to be changed
 243  * @o_end:              last original extent to be changed
 244  * @start_ext:          first new extent to be inserted
 245  * @new_ext:            middle of new extent to be inserted
 246  * @end_ext:            last new extent to be inserted
 247  *
 248  * Allocate a new leaf block and insert extents into it. Return 0 on success,
 249  * or a negative error value on failure.
 250  */
 251 static int
 252 mext_insert_across_blocks(handle_t *handle, struct inode *orig_inode,
 253                 struct ext4_extent *o_start, struct ext4_extent *o_end,
 254                 struct ext4_extent *start_ext, struct ext4_extent *new_ext,
 255                 struct ext4_extent *end_ext)
 256 {
 257         struct ext4_ext_path *orig_path = NULL;
 258         ext4_lblk_t eblock = 0;
 259         int new_flag = 0;
 260         int end_flag = 0;
 261         int err = 0;
 262
 263         if (start_ext->ee_len && new_ext->ee_len && end_ext->ee_len) {
 264                 if (o_start == o_end) {
 265
 266                         /*       start_ext   new_ext    end_ext
 267                          * donor |---------|-----------|--------|
 268                          * orig  |------------------------------|
 269                          */
 270                         end_flag = 1;
 271                 } else {
 272
 273                         /*       start_ext   new_ext   end_ext
 274                          * donor |---------|----------|---------|
 275                          * orig  |---------------|--------------|
 276                          */
 277                         o_end->ee_block = end_ext->ee_block;
 278                         o_end->ee_len = end_ext->ee_len;
 279                         ext4_ext_store_pblock(o_end, ext_pblock(end_ext));
 280                 }
 281
 282                 o_start->ee_len = start_ext->ee_len;
 283                 new_flag = 1;
 284
 285         } else if (start_ext->ee_len && new_ext->ee_len &&
 286                    !end_ext->ee_len && o_start == o_end) {
 287
 288                 /*       start_ext      new_ext
 289                  * donor |--------------|---------------|
 290                  * orig  |------------------------------|
 291                  */
 292                 o_start->ee_len = start_ext->ee_len;
 293                 new_flag = 1;
 294
 295         } else if (!start_ext->ee_len && new_ext->ee_len &&
 296                    end_ext->ee_len && o_start == o_end) {
 297
 298                 /*        new_ext       end_ext
 299                  * donor |--------------|---------------|
 300                  * orig  |------------------------------|
 301                  */
 302                 o_end->ee_block = end_ext->ee_block;
 303                 o_end->ee_len = end_ext->ee_len;
 304                 ext4_ext_store_pblock(o_end, ext_pblock(end_ext));
 305
 306                 /*
 307                  * Set 0 to the extent block if new_ext was
 308                  * the first block.
 309                  */
 310                 if (new_ext->ee_block)
 311                         eblock = le32_to_cpu(new_ext->ee_block);
 312
 313                 new_flag = 1;
 314         } else {
 315                 ext4_debug("ext4 move extent: Unexpected insert case\n");
 316                 return -EIO;
 317         }
 318
 319         if (new_flag) {
 320                 err = get_ext_path(orig_inode, eblock, &orig_path);
 321                 if (err)
 322                         goto out;
 323
 324                 if (ext4_ext_insert_extent(handle, orig_inode,
 325                                         orig_path, new_ext, 0))
 326                         goto out;
 327         }
 328
 329         if (end_flag) {
 330                 err = get_ext_path(orig_inode,
 331                                 le32_to_cpu(end_ext->ee_block) - 1, &orig_path);
 332                 if (err)
 333                         goto out;
 334
 335                 if (ext4_ext_insert_extent(handle, orig_inode,
 336                                            orig_path, end_ext, 0))
 337                         goto out;
 338         }
 339 out:
 340         if (orig_path) {
 341                 ext4_ext_drop_refs(orig_path);
 342                 kfree(orig_path);
 343         }
 344
 345         return err;
 346
 347 }
 348
 349 /**
 350  * mext_insert_inside_block - Insert new extent to the extent block
 351  *
 352  * @o_start:            first original extent to be moved
 353  * @o_end:              last original extent to be moved
 354  * @start_ext:          first new extent to be inserted
 355  * @new_ext:            middle of new extent to be inserted
 356  * @end_ext:            last new extent to be inserted
 357  * @eh:                 extent header of target leaf block
 358  * @range_to_move:      used to decide how to insert extent
 359  *
 360  * Insert extents into the leaf block. The extent (@o_start) is overwritten
 361  * by inserted extents.
 362  */
 363 static void
 364 mext_insert_inside_block(struct ext4_extent *o_start,
 365                               struct ext4_extent *o_end,
 366                               struct ext4_extent *start_ext,
 367                               struct ext4_extent *new_ext,
 368                               struct ext4_extent *end_ext,
 369                               struct ext4_extent_header *eh,
 370                               int range_to_move)
 371 {
 372         int i = 0;
 373         unsigned long len;
 374
 375         /* Move the existing extents */
 376         if (range_to_move && o_end < EXT_LAST_EXTENT(eh)) {
 377                 len = (unsigned long)(EXT_LAST_EXTENT(eh) + 1) -
 378                         (unsigned long)(o_end + 1);
 379                 memmove(o_end + 1 + range_to_move, o_end + 1, len);
 380         }
 381
 382         /* Insert start entry */
 383         if (start_ext->ee_len)
 384                 o_start[i++].ee_len = start_ext->ee_len;
 385
 386         /* Insert new entry */
 387         if (new_ext->ee_len) {
 388                 o_start[i] = *new_ext;
 389                 ext4_ext_store_pblock(&o_start[i++], ext_pblock(new_ext));
 390         }
 391
 392         /* Insert end entry */
 393         if (end_ext->ee_len)
 394                 o_start[i] = *end_ext;
 395
 396         /* Increment the total entries counter on the extent block */
 397         le16_add_cpu(&eh->eh_entries, range_to_move);
 398 }
 399
 400 /**
 401  * mext_insert_extents - Insert new extent
 402  *
 403  * @handle:     journal handle
 404  * @orig_inode: original inode
 405  * @orig_path:  path indicates first extent to be changed
 406  * @o_start:    first original extent to be changed
 407  * @o_end:      last original extent to be changed
 408  * @start_ext:  first new extent to be inserted
 409  * @new_ext:    middle of new extent to be inserted
 410  * @end_ext:    last new extent to be inserted
 411  *
 412  * Call the function to insert extents. If we cannot add more extents into
 413  * the leaf block, we call mext_insert_across_blocks() to create a
 414  * new leaf block. Otherwise call mext_insert_inside_block(). Return 0
 415  * on success, or a negative error value on failure.
 416  */
 417 static int
 418 mext_insert_extents(handle_t *handle, struct inode *orig_inode,
 419                          struct ext4_ext_path *orig_path,
 420                          struct ext4_extent *o_start,
 421                          struct ext4_extent *o_end,
 422                          struct ext4_extent *start_ext,
 423                          struct ext4_extent *new_ext,
 424                          struct ext4_extent *end_ext)
 425 {
 426         struct  ext4_extent_header *eh;
 427         unsigned long need_slots, slots_range;
 428         int     range_to_move, depth, ret;
 429
 430         /*
 431          * The extents need to be inserted
 432          * start_extent + new_extent + end_extent.
 433          */
 434         need_slots = (start_ext->ee_len ? 1 : 0) + (end_ext->ee_len ? 1 : 0) +
 435                 (new_ext->ee_len ? 1 : 0);
 436
 437         /* The number of slots between start and end */
 438         slots_range = ((unsigned long)(o_end + 1) - (unsigned long)o_start + 1)
 439                 / sizeof(struct ext4_extent);
 440
 441         /* Range to move the end of extent */
 442         range_to_move = need_slots - slots_range;
 443         depth = orig_path->p_depth;
 444         orig_path += depth;
 445         eh = orig_path->p_hdr;
 446
 447         if (depth) {
 448                 /* Register to journal */
 449                 ret = ext4_journal_get_write_access(handle, orig_path->p_bh);
 450                 if (ret)
 451                         return ret;
 452         }
 453
 454         /* Expansion */
 455         if (range_to_move > 0 &&
 456                 (range_to_move > le16_to_cpu(eh->eh_max)
 457                         - le16_to_cpu(eh->eh_entries))) {
 458
 459                 ret = mext_insert_across_blocks(handle, orig_inode, o_start,
 460                                         o_end, start_ext, new_ext, end_ext);
 461                 if (ret < 0)
 462                         return ret;
 463         } else
 464                 mext_insert_inside_block(o_start, o_end, start_ext, new_ext,
 465                                                 end_ext, eh, range_to_move);
 466
 467         if (depth) {
 468                 ret = ext4_handle_dirty_metadata(handle, orig_inode,
 469                                                  orig_path->p_bh);
 470                 if (ret)
 471                         return ret;
 472         } else {
 473                 ret = ext4_mark_inode_dirty(handle, orig_inode);
 474                 if (ret < 0)
 475                         return ret;
 476         }
 477
 478         return 0;
 479 }
 480
 481 /**
 482  * mext_leaf_block - Move one leaf extent block into the inode.
 483  *
 484  * @handle:             journal handle
 485  * @orig_inode:         original inode
 486  * @orig_path:          path indicates first extent to be changed
 487  * @dext:               donor extent
 488  * @from:               start offset on the target file
 489  *
 490  * In order to insert extents into the leaf block, we must divide the extent
 491  * in the leaf block into three extents. The one is located to be inserted
 492  * extents, and the others are located around it.
 493  *
 494  * Therefore, this function creates structures to save extents of the leaf
 495  * block, and inserts extents by calling mext_insert_extents() with
 496  * created extents. Return 0 on success, or a negative error value on failure.
 497  */
 498 static int
 499 mext_leaf_block(handle_t *handle, struct inode *orig_inode,
 500                      struct ext4_ext_path *orig_path, struct ext4_extent *dext,
 501                      ext4_lblk_t *from)
 502 {
 503         struct ext4_extent *oext, *o_start, *o_end, *prev_ext;
 504         struct ext4_extent new_ext, start_ext, end_ext;
 505         ext4_lblk_t new_ext_end;
 506         ext4_fsblk_t new_phys_end;
 507         int oext_alen, new_ext_alen, end_ext_alen;
 508         int depth = ext_depth(orig_inode);
 509         int ret;
 510
 511         o_start = o_end = oext = orig_path[depth].p_ext;
 512         oext_alen = ext4_ext_get_actual_len(oext);
 513         start_ext.ee_len = end_ext.ee_len = 0;
 514
 515         new_ext.ee_block = cpu_to_le32(*from);
 516         ext4_ext_store_pblock(&new_ext, ext_pblock(dext));
 517         new_ext.ee_len = dext->ee_len;
 518         new_ext_alen = ext4_ext_get_actual_len(&new_ext);
 519         new_ext_end = le32_to_cpu(new_ext.ee_block) + new_ext_alen - 1;
 520         new_phys_end = ext_pblock(&new_ext) + new_ext_alen - 1;
 521
 522         /*
 523          * Case: original extent is first
 524          * oext      |--------|
 525          * new_ext      |--|
 526          * start_ext |--|
 527          */
 528         if (le32_to_cpu(oext->ee_block) < le32_to_cpu(new_ext.ee_block) &&
 529                 le32_to_cpu(new_ext.ee_block) <
 530                 le32_to_cpu(oext->ee_block) + oext_alen) {
 531                 start_ext.ee_len = cpu_to_le16(le32_to_cpu(new_ext.ee_block) -
 532                                                le32_to_cpu(oext->ee_block));
 533                 copy_extent_status(oext, &start_ext);
 534         } else if (oext > EXT_FIRST_EXTENT(orig_path[depth].p_hdr)) {
 535                 prev_ext = oext - 1;
 536                 /*
 537                  * We can merge new_ext into previous extent,
 538                  * if these are contiguous and same extent type.
 539                  */
 540                 if (ext4_can_extents_be_merged(orig_inode, prev_ext,
 541                                                &new_ext)) {
 542                         o_start = prev_ext;
 543                         start_ext.ee_len = cpu_to_le16(
 544                                 ext4_ext_get_actual_len(prev_ext) +
 545                                 new_ext_alen);
 546                         copy_extent_status(prev_ext, &start_ext);
 547                         new_ext.ee_len = 0;
 548                 }
 549         }
 550
 551         /*
 552          * Case: new_ext_end must be less than oext
 553          * oext      |-----------|
 554          * new_ext       |-------|
 555          */
 556         if (le32_to_cpu(oext->ee_block) + oext_alen - 1 < new_ext_end) {
 557                 ext4_error(orig_inode->i_sb, __func__,
 558                         "new_ext_end(%u) should be less than or equal to "
 559                         "oext->ee_block(%u) + oext_alen(%d) - 1",
 560                         new_ext_end, le32_to_cpu(oext->ee_block),
 561                         oext_alen);
 562                 ret = -EIO;
 563                 goto out;
 564         }
 565
 566         /*
 567          * Case: new_ext is smaller than original extent
 568          * oext    |---------------|
 569          * new_ext |-----------|
 570          * end_ext             |---|
 571          */
 572         if (le32_to_cpu(oext->ee_block) <= new_ext_end &&
 573                 new_ext_end < le32_to_cpu(oext->ee_block) + oext_alen - 1) {
 574                 end_ext.ee_len =
 575                         cpu_to_le16(le32_to_cpu(oext->ee_block) +
 576                         oext_alen - 1 - new_ext_end);
 577                 copy_extent_status(oext, &end_ext);
 578                 end_ext_alen = ext4_ext_get_actual_len(&end_ext);
 579                 ext4_ext_store_pblock(&end_ext,
 580                         (ext_pblock(o_end) + oext_alen - end_ext_alen));
 581                 end_ext.ee_block =
 582                         cpu_to_le32(le32_to_cpu(o_end->ee_block) +
 583                         oext_alen - end_ext_alen);
 584         }
 585
 586         ret = mext_insert_extents(handle, orig_inode, orig_path, o_start,
 587                                 o_end, &start_ext, &new_ext, &end_ext);
 588 out:
 589         return ret;
 590 }
 591
 592 /**
 593  * mext_calc_swap_extents - Calculate extents for extent swapping.
 594  *
 595  * @tmp_dext:           the extent that will belong to the original inode
 596  * @tmp_oext:           the extent that will belong to the donor inode
 597  * @orig_off:           block offset of original inode
 598  * @donor_off:          block offset of donor inode
 599  * @max_count:          the maximun length of extents
 600  *
 601  * Return 0 on success, or a negative error value on failure.
 602  */
 603 static int
 604 mext_calc_swap_extents(struct ext4_extent *tmp_dext,
 605                               struct ext4_extent *tmp_oext,
 606                               ext4_lblk_t orig_off, ext4_lblk_t donor_off,
 607                               ext4_lblk_t max_count)
 608 {
 609         ext4_lblk_t diff, orig_diff;
 610         struct ext4_extent dext_old, oext_old;
 611
 612         BUG_ON(orig_off != donor_off);
 613
 614         /* original and donor extents have to cover the same block offset */
 615         if (orig_off < le32_to_cpu(tmp_oext->ee_block) ||
 616             le32_to_cpu(tmp_oext->ee_block) +
 617                         ext4_ext_get_actual_len(tmp_oext) - 1 < orig_off)
 618                 return -ENODATA;
 619
 620         if (orig_off < le32_to_cpu(tmp_dext->ee_block) ||
 621             le32_to_cpu(tmp_dext->ee_block) +
 622                         ext4_ext_get_actual_len(tmp_dext) - 1 < orig_off)
 623                 return -ENODATA;
 624
 625         dext_old = *tmp_dext;
 626         oext_old = *tmp_oext;
 627
 628         /* When tmp_dext is too large, pick up the target range. */
 629         diff = donor_off - le32_to_cpu(tmp_dext->ee_block);
 630
 631         ext4_ext_store_pblock(tmp_dext, ext_pblock(tmp_dext) + diff);
 632         tmp_dext->ee_block =
 633                         cpu_to_le32(le32_to_cpu(tmp_dext->ee_block) + diff);
 634         tmp_dext->ee_len = cpu_to_le16(le16_to_cpu(tmp_dext->ee_len) - diff);
 635
 636         if (max_count < ext4_ext_get_actual_len(tmp_dext))
 637                 tmp_dext->ee_len = cpu_to_le16(max_count);
 638
 639         orig_diff = orig_off - le32_to_cpu(tmp_oext->ee_block);
 640         ext4_ext_store_pblock(tmp_oext, ext_pblock(tmp_oext) + orig_diff);
 641
 642         /* Adjust extent length if donor extent is larger than orig */
 643         if (ext4_ext_get_actual_len(tmp_dext) >
 644             ext4_ext_get_actual_len(tmp_oext) - orig_diff)
 645                 tmp_dext->ee_len = cpu_to_le16(le16_to_cpu(tmp_oext->ee_len) -
 646                                                 orig_diff);
 647
 648         tmp_oext->ee_len = cpu_to_le16(ext4_ext_get_actual_len(tmp_dext));
 649
 650         copy_extent_status(&oext_old, tmp_dext);
 651         copy_extent_status(&dext_old, tmp_oext);
 652
 653         return 0;
 654 }
 655
 656 /**
 657  * mext_replace_branches - Replace original extents with new extents
 658  *
 659  * @handle:             journal handle
 660  * @orig_inode:         original inode
 661  * @donor_inode:        donor inode
 662  * @from:               block offset of orig_inode
 663  * @count:              block count to be replaced
 664  * @err:                pointer to save return value
 665  *
 666  * Replace original inode extents and donor inode extents page by page.
 667  * We implement this replacement in the following three steps:
 668  * 1. Save the block information of original and donor inodes into
 669  *    dummy extents.
 670  * 2. Change the block information of original inode to point at the
 671  *    donor inode blocks.
 672  * 3. Change the block information of donor inode to point at the saved
 673  *    original inode blocks in the dummy extents.
 674  *
 675  * Return replaced block count.
 676  */
 677 static int
 678 mext_replace_branches(handle_t *handle, struct inode *orig_inode,
 679                            struct inode *donor_inode, ext4_lblk_t from,
 680                            ext4_lblk_t count, int *err)
 681 {
 682         struct ext4_ext_path *orig_path = NULL;
 683         struct ext4_ext_path *donor_path = NULL;
 684         struct ext4_extent *oext, *dext;
 685         struct ext4_extent tmp_dext, tmp_oext;
 686         ext4_lblk_t orig_off = from, donor_off = from;
 687         int depth;
 688         int replaced_count = 0;
 689         int dext_alen;
 690
 691         mext_double_down_write(orig_inode, donor_inode);
 692
 693         /* Get the original extent for the block "orig_off" */
 694         *err = get_ext_path(orig_inode, orig_off, &orig_path);
 695         if (*err)
 696                 goto out;
 697
 698         /* Get the donor extent for the head */
 699         *err = get_ext_path(donor_inode, donor_off, &donor_path);
 700         if (*err)
 701                 goto out;
 702         depth = ext_depth(orig_inode);
 703         oext = orig_path[depth].p_ext;
 704         tmp_oext = *oext;
 705
 706         depth = ext_depth(donor_inode);
 707         dext = donor_path[depth].p_ext;
 708         tmp_dext = *dext;
 709
 710         *err = mext_calc_swap_extents(&tmp_dext, &tmp_oext, orig_off,
 711                                       donor_off, count);
 712         if (*err)
 713                 goto out;
 714
 715         /* Loop for the donor extents */
 716         while (1) {
 717                 /* The extent for donor must be found. */
 718                 if (!dext) {
 719                         ext4_error(donor_inode->i_sb, __func__,
 720                                    "The extent for donor must be found");
 721                         *err = -EIO;
 722                         goto out;
 723                 } else if (donor_off != le32_to_cpu(tmp_dext.ee_block)) {
 724                         ext4_error(donor_inode->i_sb, __func__,
 725                                 "Donor offset(%u) and the first block of donor "
 726                                 "extent(%u) should be equal",
 727                                 donor_off,
 728                                 le32_to_cpu(tmp_dext.ee_block));
 729                         *err = -EIO;
 730                         goto out;
 731                 }
 732
 733                 /* Set donor extent to orig extent */
 734                 *err = mext_leaf_block(handle, orig_inode,
 735                                            orig_path, &tmp_dext, &orig_off);
 736                 if (*err)
 737                         goto out;
 738
 739                 /* Set orig extent to donor extent */
 740                 *err = mext_leaf_block(handle, donor_inode,
 741                                            donor_path, &tmp_oext, &donor_off);
 742                 if (*err)
 743                         goto out;
 744
 745                 dext_alen = ext4_ext_get_actual_len(&tmp_dext);
 746                 replaced_count += dext_alen;
 747                 donor_off += dext_alen;
 748                 orig_off += dext_alen;
 749
 750                 /* Already moved the expected blocks */
 751                 if (replaced_count >= count)
 752                         break;
 753
 754                 if (orig_path)
 755                         ext4_ext_drop_refs(orig_path);
 756                 *err = get_ext_path(orig_inode, orig_off, &orig_path);
 757                 if (*err)
 758                         goto out;
 759                 depth = ext_depth(orig_inode);
 760                 oext = orig_path[depth].p_ext;
 761                 tmp_oext = *oext;
 762
 763                 if (donor_path)
 764                         ext4_ext_drop_refs(donor_path);
 765                 *err = get_ext_path(donor_inode, donor_off, &donor_path);
 766                 if (*err)
 767                         goto out;
 768                 depth = ext_depth(donor_inode);
 769                 dext = donor_path[depth].p_ext;
 770                 tmp_dext = *dext;
 771
 772                 *err = mext_calc_swap_extents(&tmp_dext, &tmp_oext, orig_off,
 773                                            donor_off, count - replaced_count);
 774                 if (*err)
 775                         goto out;
 776         }
 777
 778 out:
 779         if (orig_path) {
 780                 ext4_ext_drop_refs(orig_path);
 781                 kfree(orig_path);
 782         }
 783         if (donor_path) {
 784                 ext4_ext_drop_refs(donor_path);
 785                 kfree(donor_path);
 786         }
 787
 788         mext_double_up_write(orig_inode, donor_inode);
 789         return replaced_count;
 790 }
 791
 792 /**
 793  * move_extent_per_page - Move extent data per page
 794  *
 795  * @o_filp:                     file structure of original file
 796  * @donor_inode:                donor inode
 797  * @orig_page_offset:           page index on original file
 798  * @data_offset_in_page:        block index where data swapping starts
 799  * @block_len_in_page:          the number of blocks to be swapped
 800  * @uninit:                     orig extent is uninitialized or not
 801  * @err:                        pointer to save return value
 802  *
 803  * Save the data in original inode blocks and replace original inode extents
 804  * with donor inode extents by calling mext_replace_branches().
 805  * Finally, write out the saved data in new original inode blocks. Return
 806  * replaced block count.
 807  */
 808 static int
 809 move_extent_per_page(struct file *o_filp, struct inode *donor_inode,
 810                   pgoff_t orig_page_offset, int data_offset_in_page,
 811                   int block_len_in_page, int uninit, int *err)
 812 {
 813         struct inode *orig_inode = o_filp->f_dentry->d_inode;
 814         struct address_space *mapping = orig_inode->i_mapping;
 815         struct buffer_head *bh;
 816         struct page *page = NULL;
 817         const struct address_space_operations *a_ops = mapping->a_ops;
 818         handle_t *handle;
 819         ext4_lblk_t orig_blk_offset;
 820         long long offs = orig_page_offset << PAGE_CACHE_SHIFT;
 821         unsigned long blocksize = orig_inode->i_sb->s_blocksize;
 822         unsigned int w_flags = 0;
 823         unsigned int tmp_data_size, data_size, replaced_size;
 824         void *fsdata;
 825         int i, jblocks;
 826         int err2 = 0;
 827         int replaced_count = 0;
 828         int blocks_per_page = PAGE_CACHE_SIZE >> orig_inode->i_blkbits;
 829
 830         /*
 831          * It needs twice the amount of ordinary journal buffers because
 832          * inode and donor_inode may change each different metadata blocks.
 833          */
 834         jblocks = ext4_writepage_trans_blocks(orig_inode) * 2;
 835         handle = ext4_journal_start(orig_inode, jblocks);
 836         if (IS_ERR(handle)) {
 837                 *err = PTR_ERR(handle);
 838                 return 0;
 839         }
 840
 841         if (segment_eq(get_fs(), KERNEL_DS))
 842                 w_flags |= AOP_FLAG_UNINTERRUPTIBLE;
 843
 844         orig_blk_offset = orig_page_offset * blocks_per_page +
 845                 data_offset_in_page;
 846
 847         /*
 848          * If orig extent is uninitialized one,
 849          * it's not necessary force the page into memory
 850          * and then force it to be written out again.
 851          * Just swap data blocks between orig and donor.
 852          */
 853         if (uninit) {
 854                 replaced_count = mext_replace_branches(handle, orig_inode,
 855                                                 donor_inode, orig_blk_offset,
 856                                                 block_len_in_page, err);
 857
 858                 /* Clear the inode cache not to refer to the old data */
 859                 ext4_ext_invalidate_cache(orig_inode);
 860                 ext4_ext_invalidate_cache(donor_inode);
 861                 goto out2;
 862         }
 863
 864         offs = (long long)orig_blk_offset << orig_inode->i_blkbits;
 865
 866         /* Calculate data_size */
 867         if ((orig_blk_offset + block_len_in_page - 1) ==
 868             ((orig_inode->i_size - 1) >> orig_inode->i_blkbits)) {
 869                 /* Replace the last block */
 870                 tmp_data_size = orig_inode->i_size & (blocksize - 1);
 871                 /*
 872                  * If data_size equal zero, it shows data_size is multiples of
 873                  * blocksize. So we set appropriate value.
 874                  */
 875                 if (tmp_data_size == 0)
 876                         tmp_data_size = blocksize;
 877
 878                 data_size = tmp_data_size +
 879                         ((block_len_in_page - 1) << orig_inode->i_blkbits);
 880         } else
 881                 data_size = block_len_in_page << orig_inode->i_blkbits;
 882
 883         replaced_size = data_size;
 884
 885         *err = a_ops->write_begin(o_filp, mapping, offs, data_size, w_flags,
 886                                  &page, &fsdata);
 887         if (unlikely(*err < 0))
 888                 goto out;
 889
 890         if (!PageUptodate(page)) {
 891                 mapping->a_ops->readpage(o_filp, page);
 892                 lock_page(page);
 893         }
 894
 895         /*
 896          * try_to_release_page() doesn't call releasepage in writeback mode.
 897          * We should care about the order of writing to the same file
 898          * by multiple move extent processes.
 899          * It needs to call wait_on_page_writeback() to wait for the
 900          * writeback of the page.
 901          */
 902         if (PageWriteback(page))
 903                 wait_on_page_writeback(page);
 904
 905         /* Release old bh and drop refs */
 906         try_to_release_page(page, 0);
 907
 908         replaced_count = mext_replace_branches(handle, orig_inode, donor_inode,
 909                                         orig_blk_offset, block_len_in_page,
 910                                         &err2);
 911         if (err2) {
 912                 if (replaced_count) {
 913                         block_len_in_page = replaced_count;
 914                         replaced_size =
 915                                 block_len_in_page << orig_inode->i_blkbits;
 916                 } else
 917                         goto out;
 918         }
 919
 920         /* Clear the inode cache not to refer to the old data */
 921         ext4_ext_invalidate_cache(orig_inode);
 922         ext4_ext_invalidate_cache(donor_inode);
 923
 924         if (!page_has_buffers(page))
 925                 create_empty_buffers(page, 1 << orig_inode->i_blkbits, 0);
 926
 927         bh = page_buffers(page);
 928         for (i = 0; i < data_offset_in_page; i++)
 929                 bh = bh->b_this_page;
 930
 931         for (i = 0; i < block_len_in_page; i++) {
 932                 *err = ext4_get_block(orig_inode,
 933                                 (sector_t)(orig_blk_offset + i), bh, 0);
 934                 if (*err < 0)
 935                         goto out;
 936
 937                 if (bh->b_this_page != NULL)
 938                         bh = bh->b_this_page;
 939         }
 940
 941         *err = a_ops->write_end(o_filp, mapping, offs, data_size, replaced_size,
 942                                page, fsdata);
 943         page = NULL;
 944
 945 out:
 946         if (unlikely(page)) {
 947                 if (PageLocked(page))
 948                         unlock_page(page);
 949                 page_cache_release(page);
 950                 ext4_journal_stop(handle);
 951         }
 952 out2:
 953         ext4_journal_stop(handle);
 954
 955         if (err2)
 956                 *err = err2;
 957
 958         return replaced_count;
 959 }
 960
 961 /**
 962  * mext_check_argumants - Check whether move extent can be done
 963  *
 964  * @orig_inode:         original inode
 965  * @donor_inode:        donor inode
 966  * @orig_start:         logical start offset in block for orig
 967  * @donor_start:        logical start offset in block for donor
 968  * @len:                the number of blocks to be moved
 969  * @moved_len:          moved block length
 970  *
 971  * Check the arguments of ext4_move_extents() whether the files can be
 972  * exchanged with each other.
 973  * Return 0 on success, or a negative error value on failure.
 974  */
 975 static int
 976 mext_check_arguments(struct inode *orig_inode,
 977                           struct inode *donor_inode, __u64 orig_start,
 978                           __u64 donor_start, __u64 *len, __u64 moved_len)
 979 {
 980         ext4_lblk_t orig_blocks, donor_blocks;
 981         unsigned int blkbits = orig_inode->i_blkbits;
 982         unsigned int blocksize = 1 << blkbits;
 983
 984         /* Regular file check */
 985         if (!S_ISREG(orig_inode->i_mode) || !S_ISREG(donor_inode->i_mode)) {
 986                 ext4_debug("ext4 move extent: The argument files should be "
 987                         "regular file [ino:orig %lu, donor %lu]\n",
 988                         orig_inode->i_ino, donor_inode->i_ino);
 989                 return -EINVAL;
 990         }
 991
 992         /* Ext4 move extent does not support swapfile */
 993         if (IS_SWAPFILE(orig_inode) || IS_SWAPFILE(donor_inode)) {
 994                 ext4_debug("ext4 move extent: The argument files should "
 995                         "not be swapfile [ino:orig %lu, donor %lu]\n",
 996                         orig_inode->i_ino, donor_inode->i_ino);
 997                 return -EINVAL;
 998         }
 999
1000         /* Files should be in the same ext4 FS */
1001         if (orig_inode->i_sb != donor_inode->i_sb) {
1002                 ext4_debug("ext4 move extent: The argument files "
1003                         "should be in same FS [ino:orig %lu, donor %lu]\n",
1004                         orig_inode->i_ino, donor_inode->i_ino);
1005                 return -EINVAL;
1006         }
1007
1008         /* Ext4 move extent supports only extent based file */
1009         if (!(EXT4_I(orig_inode)->i_flags & EXT4_EXTENTS_FL)) {
1010                 ext4_debug("ext4 move extent: orig file is not extents "
1011                         "based file [ino:orig %lu]\n", orig_inode->i_ino);
1012                 return -EOPNOTSUPP;
1013         } else if (!(EXT4_I(donor_inode)->i_flags & EXT4_EXTENTS_FL)) {
1014                 ext4_debug("ext4 move extent: donor file is not extents "
1015                         "based file [ino:donor %lu]\n", donor_inode->i_ino);
1016                 return -EOPNOTSUPP;
1017         }
1018
1019         if ((!orig_inode->i_size) || (!donor_inode->i_size)) {
1020                 ext4_debug("ext4 move extent: File size is 0 byte\n");
1021                 return -EINVAL;
1022         }
1023
1024         /* Start offset should be same */
1025         if (orig_start != donor_start) {
1026                 ext4_debug("ext4 move extent: orig and donor's start "
1027                         "offset are not same [ino:orig %lu, donor %lu]\n",
1028                         orig_inode->i_ino, donor_inode->i_ino);
1029                 return -EINVAL;
1030         }
1031
1032         if (moved_len) {
1033                 ext4_debug("ext4 move extent: moved_len should be 0 "
1034                         "[ino:orig %lu, donor %lu]\n", orig_inode->i_ino,
1035                         donor_inode->i_ino);
1036                 return -EINVAL;
1037         }
1038
1039         if ((orig_start > EXT_MAX_BLOCK) ||
1040             (donor_start > EXT_MAX_BLOCK) ||
1041             (*len > EXT_MAX_BLOCK) ||
1042             (orig_start + *len > EXT_MAX_BLOCK))  {
1043                 ext4_debug("ext4 move extent: Can't handle over [%u] blocks "
1044                         "[ino:orig %lu, donor %lu]\n", EXT_MAX_BLOCK,
1045                         orig_inode->i_ino, donor_inode->i_ino);
1046                 return -EINVAL;
1047         }
1048
1049         if (orig_inode->i_size > donor_inode->i_size) {
1050                 donor_blocks = (donor_inode->i_size + blocksize - 1) >> blkbits;
1051                 /* TODO: eliminate this artificial restriction */
1052                 if (orig_start >= donor_blocks) {
1053                         ext4_debug("ext4 move extent: orig start offset "
1054                         "[%llu] should be less than donor file blocks "
1055                         "[%u] [ino:orig %lu, donor %lu]\n",
1056                         orig_start, donor_blocks,
1057                         orig_inode->i_ino, donor_inode->i_ino);
1058                         return -EINVAL;
1059                 }
1060
1061                 /* TODO: eliminate this artificial restriction */
1062                 if (orig_start + *len > donor_blocks) {
1063                         ext4_debug("ext4 move extent: End offset [%llu] should "
1064                                 "be less than donor file blocks [%u]."
1065                                 "So adjust length from %llu to %llu "
1066                                 "[ino:orig %lu, donor %lu]\n",
1067                                 orig_start + *len, donor_blocks,
1068                                 *len, donor_blocks - orig_start,
1069                                 orig_inode->i_ino, donor_inode->i_ino);
1070                         *len = donor_blocks - orig_start;
1071                 }
1072         } else {
1073                 orig_blocks = (orig_inode->i_size + blocksize - 1) >> blkbits;
1074                 if (orig_start >= orig_blocks) {
1075                         ext4_debug("ext4 move extent: start offset [%llu] "
1076                                 "should be less than original file blocks "
1077                                 "[%u] [ino:orig %lu, donor %lu]\n",
1078                                  orig_start, orig_blocks,
1079                                 orig_inode->i_ino, donor_inode->i_ino);
1080                         return -EINVAL;
1081                 }
1082
1083                 if (orig_start + *len > orig_blocks) {
1084                         ext4_debug("ext4 move extent: Adjust length "
1085                                 "from %llu to %llu. Because it should be "
1086                                 "less than original file blocks "
1087                                 "[ino:orig %lu, donor %lu]\n",
1088                                 *len, orig_blocks - orig_start,
1089                                 orig_inode->i_ino, donor_inode->i_ino);
1090                         *len = orig_blocks - orig_start;
1091                 }
1092         }
1093
1094         if (!*len) {
1095                 ext4_debug("ext4 move extent: len shoudld not be 0 "
1096                         "[ino:orig %lu, donor %lu]\n", orig_inode->i_ino,
1097                         donor_inode->i_ino);
1098                 return -EINVAL;
1099         }
1100
1101         return 0;
1102 }
1103
1104 /**
1105  * mext_inode_double_lock - Lock i_mutex on both @inode1 and @inode2
1106  *
1107  * @inode1:     the inode structure
1108  * @inode2:     the inode structure
1109  *
1110  * Lock two inodes' i_mutex by i_ino order.
1111  * If inode1 or inode2 is NULL, return -EIO. Otherwise, return 0.
1112  */
1113 static int
1114 mext_inode_double_lock(struct inode *inode1, struct inode *inode2)
1115 {
1116         int ret = 0;
1117
1118         BUG_ON(inode1 == NULL && inode2 == NULL);
1119
1120         ret = mext_check_null_inode(inode1, inode2, __func__);
1121         if (ret < 0)
1122                 goto out;
1123
1124         if (inode1 == inode2) {
1125                 mutex_lock(&inode1->i_mutex);
1126                 goto out;
1127         }
1128
1129         if (inode1->i_ino < inode2->i_ino) {
1130                 mutex_lock_nested(&inode1->i_mutex, I_MUTEX_PARENT);
1131                 mutex_lock_nested(&inode2->i_mutex, I_MUTEX_CHILD);
1132         } else {
1133                 mutex_lock_nested(&inode2->i_mutex, I_MUTEX_PARENT);
1134                 mutex_lock_nested(&inode1->i_mutex, I_MUTEX_CHILD);
1135         }
1136
1137 out:
1138         return ret;
1139 }
1140
1141 /**
1142  * mext_inode_double_unlock - Release i_mutex on both @inode1 and @inode2
1143  *
1144  * @inode1:     the inode that is released first
1145  * @inode2:     the inode that is released second
1146  *
1147  * If inode1 or inode2 is NULL, return -EIO. Otherwise, return 0.
1148  */
1149
1150 static int
1151 mext_inode_double_unlock(struct inode *inode1, struct inode *inode2)
1152 {
1153         int ret = 0;
1154
1155         BUG_ON(inode1 == NULL && inode2 == NULL);
1156
1157         ret = mext_check_null_inode(inode1, inode2, __func__);
1158         if (ret < 0)
1159                 goto out;
1160
1161         if (inode1)
1162                 mutex_unlock(&inode1->i_mutex);
1163
1164         if (inode2 && inode2 != inode1)
1165                 mutex_unlock(&inode2->i_mutex);
1166
1167 out:
1168         return ret;
1169 }
1170
1171 /**
1172  * ext4_move_extents - Exchange the specified range of a file
1173  *
1174  * @o_filp:             file structure of the original file
1175  * @d_filp:             file structure of the donor file
1176  * @orig_start:         start offset in block for orig
1177  * @donor_start:        start offset in block for donor
1178  * @len:                the number of blocks to be moved
1179  * @moved_len:          moved block length
1180  *
1181  * This function returns 0 and moved block length is set in moved_len
1182  * if succeed, otherwise returns error value.
1183  *
1184  * Note: ext4_move_extents() proceeds the following order.
1185  * 1:ext4_move_extents() calculates the last block number of moving extent
1186  *   function by the start block number (orig_start) and the number of blocks
1187  *   to be moved (len) specified as arguments.
1188  *   If the {orig, donor}_start points a hole, the extent's start offset
1189  *   pointed by ext_cur (current extent), holecheck_path, orig_path are set
1190  *   after hole behind.
1191  * 2:Continue step 3 to step 5, until the holecheck_path points to last_extent
1192  *   or the ext_cur exceeds the block_end which is last logical block number.
1193  * 3:To get the length of continues area, call mext_next_extent()
1194  *   specified with the ext_cur (initial value is holecheck_path) re-cursive,
1195  *   until find un-continuous extent, the start logical block number exceeds
1196  *   the block_end or the extent points to the last extent.
1197  * 4:Exchange the original inode data with donor inode data
1198  *   from orig_page_offset to seq_end_page.
1199  *   The start indexes of data are specified as arguments.
1200  *   That of the original inode is orig_page_offset,
1201  *   and the donor inode is also orig_page_offset
1202  *   (To easily handle blocksize != pagesize case, the offset for the
1203  *   donor inode is block unit).
1204  * 5:Update holecheck_path and orig_path to points a next proceeding extent,
1205  *   then returns to step 2.
1206  * 6:Release holecheck_path, orig_path and set the len to moved_len
1207  *   which shows the number of moved blocks.
1208  *   The moved_len is useful for the command to calculate the file offset
1209  *   for starting next move extent ioctl.
1210  * 7:Return 0 on success, or a negative error value on failure.
1211  */
1212 int
1213 ext4_move_extents(struct file *o_filp, struct file *d_filp,
1214                  __u64 orig_start, __u64 donor_start, __u64 len,
1215                  __u64 *moved_len)
1216 {
1217         struct inode *orig_inode = o_filp->f_dentry->d_inode;
1218         struct inode *donor_inode = d_filp->f_dentry->d_inode;
1219         struct ext4_ext_path *orig_path = NULL, *holecheck_path = NULL;
1220         struct ext4_extent *ext_prev, *ext_cur, *ext_dummy;
1221         ext4_lblk_t block_start = orig_start;
1222         ext4_lblk_t block_end, seq_start, add_blocks, file_end, seq_blocks = 0;
1223         ext4_lblk_t rest_blocks;
1224         pgoff_t orig_page_offset = 0, seq_end_page;
1225         int ret1, ret2, depth, last_extent = 0;
1226         int blocks_per_page = PAGE_CACHE_SIZE >> orig_inode->i_blkbits;
1227         int data_offset_in_page;
1228         int block_len_in_page;
1229         int uninit;
1230
1231         /* orig and donor should be different file */
1232         if (orig_inode->i_ino == donor_inode->i_ino) {
1233                 ext4_debug("ext4 move extent: The argument files should not "
1234                         "be same file [ino:orig %lu, donor %lu]\n",
1235                         orig_inode->i_ino, donor_inode->i_ino);
1236                 return -EINVAL;
1237         }
1238
1239         /* protect orig and donor against a truncate */
1240         ret1 = mext_inode_double_lock(orig_inode, donor_inode);
1241         if (ret1 < 0)
1242                 return ret1;
1243
1244         mext_double_down_read(orig_inode, donor_inode);
1245         /* Check the filesystem environment whether move_extent can be done */
1246         ret1 = mext_check_arguments(orig_inode, donor_inode, orig_start,
1247                                         donor_start, &len, *moved_len);
1248         mext_double_up_read(orig_inode, donor_inode);
1249         if (ret1)
1250                 goto out;
1251
1252         file_end = (i_size_read(orig_inode) - 1) >> orig_inode->i_blkbits;
1253         block_end = block_start + len - 1;
1254         if (file_end < block_end)
1255                 len -= block_end - file_end;
1256
1257         ret1 = get_ext_path(orig_inode, block_start, &orig_path);
1258         if (ret1)
1259                 goto out;
1260
1261         /* Get path structure to check the hole */
1262         ret1 = get_ext_path(orig_inode, block_start, &holecheck_path);
1263         if (ret1)
1264                 goto out;
1265
1266         depth = ext_depth(orig_inode);
1267         ext_cur = holecheck_path[depth].p_ext;
1268
1269         /*
1270          * Get proper starting location of block replacement if block_start was
1271          * within the hole.
1272          */
1273         if (le32_to_cpu(ext_cur->ee_block) +
1274                 ext4_ext_get_actual_len(ext_cur) - 1 < block_start) {
1275                 /*
1276                  * The hole exists between extents or the tail of
1277                  * original file.
1278                  */
1279                 last_extent = mext_next_extent(orig_inode,
1280                                         holecheck_path, &ext_cur);
1281                 if (last_extent < 0) {
1282                         ret1 = last_extent;
1283                         goto out;
1284                 }
1285                 last_extent = mext_next_extent(orig_inode, orig_path,
1286                                                         &ext_dummy);
1287                 if (last_extent < 0) {
1288                         ret1 = last_extent;
1289                         goto out;
1290                 }
1291                 seq_start = le32_to_cpu(ext_cur->ee_block);
1292         } else if (le32_to_cpu(ext_cur->ee_block) > block_start)
1293                 /* The hole exists at the beginning of original file. */
1294                 seq_start = le32_to_cpu(ext_cur->ee_block);
1295         else
1296                 seq_start = block_start;
1297
1298         /* No blocks within the specified range. */
1299         if (le32_to_cpu(ext_cur->ee_block) > block_end) {
1300                 ext4_debug("ext4 move extent: The specified range of file "
1301                                                         "may be the hole\n");
1302                 ret1 = -EINVAL;
1303                 goto out;
1304         }
1305
1306         /* Adjust start blocks */
1307         add_blocks = min(le32_to_cpu(ext_cur->ee_block) +
1308                          ext4_ext_get_actual_len(ext_cur), block_end + 1) -
1309                      max(le32_to_cpu(ext_cur->ee_block), block_start);
1310
1311         while (!last_extent && le32_to_cpu(ext_cur->ee_block) <= block_end) {
1312                 seq_blocks += add_blocks;
1313
1314                 /* Adjust tail blocks */
1315                 if (seq_start + seq_blocks - 1 > block_end)
1316                         seq_blocks = block_end - seq_start + 1;
1317
1318                 ext_prev = ext_cur;
1319                 last_extent = mext_next_extent(orig_inode, holecheck_path,
1320                                                 &ext_cur);
1321                 if (last_extent < 0) {
1322                         ret1 = last_extent;
1323                         break;
1324                 }
1325                 add_blocks = ext4_ext_get_actual_len(ext_cur);
1326
1327                 /*
1328                  * Extend the length of contiguous block (seq_blocks)
1329                  * if extents are contiguous.
1330                  */
1331                 if (ext4_can_extents_be_merged(orig_inode,
1332                                                ext_prev, ext_cur) &&
1333                     block_end >= le32_to_cpu(ext_cur->ee_block) &&
1334                     !last_extent)
1335                         continue;
1336
1337                 /* Is original extent is uninitialized */
1338                 uninit = ext4_ext_is_uninitialized(ext_prev);
1339
1340                 data_offset_in_page = seq_start % blocks_per_page;
1341
1342                 /*
1343                  * Calculate data blocks count that should be swapped
1344                  * at the first page.
1345                  */
1346                 if (data_offset_in_page + seq_blocks > blocks_per_page) {
1347                         /* Swapped blocks are across pages */
1348                         block_len_in_page =
1349                                         blocks_per_page - data_offset_in_page;
1350                 } else {
1351                         /* Swapped blocks are in a page */
1352                         block_len_in_page = seq_blocks;
1353                 }
1354
1355                 orig_page_offset = seq_start >>
1356                                 (PAGE_CACHE_SHIFT - orig_inode->i_blkbits);
1357                 seq_end_page = (seq_start + seq_blocks - 1) >>
1358                                 (PAGE_CACHE_SHIFT - orig_inode->i_blkbits);
1359                 seq_start = le32_to_cpu(ext_cur->ee_block);
1360                 rest_blocks = seq_blocks;
1361
1362                 /* Discard preallocations of two inodes */
1363                 down_write(&EXT4_I(orig_inode)->i_data_sem);
1364                 ext4_discard_preallocations(orig_inode);
1365                 up_write(&EXT4_I(orig_inode)->i_data_sem);
1366
1367                 down_write(&EXT4_I(donor_inode)->i_data_sem);
1368                 ext4_discard_preallocations(donor_inode);
1369                 up_write(&EXT4_I(donor_inode)->i_data_sem);
1370
1371                 while (orig_page_offset <= seq_end_page) {
1372
1373                         /* Swap original branches with new branches */
1374                         block_len_in_page = move_extent_per_page(
1375                                                 o_filp, donor_inode,
1376                                                 orig_page_offset,
1377                                                 data_offset_in_page,
1378                                                 block_len_in_page, uninit,
1379                                                 &ret1);
1380
1381                         /* Count how many blocks we have exchanged */
1382                         *moved_len += block_len_in_page;
1383                         if (ret1 < 0)
1384                                 goto out;
1385                         if (*moved_len > len) {
1386                                 ext4_error(orig_inode->i_sb, __func__,
1387                                         "We replaced blocks too much! "
1388                                         "sum of replaced: %llu requested: %llu",
1389                                         *moved_len, len);
1390                                 ret1 = -EIO;
1391                                 goto out;
1392                         }
1393
1394                         orig_page_offset++;
1395                         data_offset_in_page = 0;
1396                         rest_blocks -= block_len_in_page;
1397                         if (rest_blocks > blocks_per_page)
1398                                 block_len_in_page = blocks_per_page;
1399                         else
1400                                 block_len_in_page = rest_blocks;
1401                 }
1402
1403                 /* Decrease buffer counter */
1404                 if (holecheck_path)
1405                         ext4_ext_drop_refs(holecheck_path);
1406                 ret1 = get_ext_path(orig_inode, seq_start, &holecheck_path);
1407                 if (ret1)
1408                         break;
1409                 depth = holecheck_path->p_depth;
1410
1411                 /* Decrease buffer counter */
1412                 if (orig_path)
1413                         ext4_ext_drop_refs(orig_path);
1414                 ret1 = get_ext_path(orig_inode, seq_start, &orig_path);
1415                 if (ret1)
1416                         break;
1417
1418                 ext_cur = holecheck_path[depth].p_ext;
1419                 add_blocks = ext4_ext_get_actual_len(ext_cur);
1420                 seq_blocks = 0;
1421
1422         }
1423 out:
1424         if (orig_path) {
1425                 ext4_ext_drop_refs(orig_path);
1426                 kfree(orig_path);
1427         }
1428         if (holecheck_path) {
1429                 ext4_ext_drop_refs(holecheck_path);
1430                 kfree(holecheck_path);
1431         }
1432
1433         ret2 = mext_inode_double_unlock(orig_inode, donor_inode);
1434
1435         if (ret1)
1436                 return ret1;
1437         else if (ret2)
1438                 return ret2;
1439
1440         return 0;
1441 }