fs/stat.c

   1 // SPDX-License-Identifier: GPL-2.0
   2 /*
   3  *  linux/fs/stat.c
   4  *
   5  *  Copyright (C) 1991, 1992  Linus Torvalds
   6  */
   7
   8 #include <linux/blkdev.h>
   9 #include <linux/export.h>
  10 #include <linux/mm.h>
  11 #include <linux/errno.h>
  12 #include <linux/file.h>
  13 #include <linux/highuid.h>
  14 #include <linux/fs.h>
  15 #include <linux/namei.h>
  16 #include <linux/security.h>
  17 #include <linux/cred.h>
  18 #include <linux/syscalls.h>
  19 #include <linux/pagemap.h>
  20 #include <linux/compat.h>
  21 #include <linux/iversion.h>
  22
  23 #include <linux/uaccess.h>
  24 #include <asm/unistd.h>
  25
  26 #include <trace/events/timestamp.h>
  27
  28 #include "internal.h"
  29 #include "mount.h"
  30
  31 /**
  32  * fill_mg_cmtime - Fill in the mtime and ctime and flag ctime as QUERIED
  33  * @stat: where to store the resulting values
  34  * @request_mask: STATX_* values requested
  35  * @inode: inode from which to grab the c/mtime
  36  *
  37  * Given @inode, grab the ctime and mtime out if it and store the result
  38  * in @stat. When fetching the value, flag it as QUERIED (if not already)
  39  * so the next write will record a distinct timestamp.
  40  *
  41  * NB: The QUERIED flag is tracked in the ctime, but we set it there even
  42  * if only the mtime was requested, as that ensures that the next mtime
  43  * change will be distinct.
  44  */
  45 void fill_mg_cmtime(struct kstat *stat, u32 request_mask, struct inode *inode)
  46 {
  47         atomic_t *pcn = (atomic_t *)&inode->i_ctime_nsec;
  48
  49         /* If neither time was requested, then don't report them */
  50         if (!(request_mask & (STATX_CTIME|STATX_MTIME))) {
  51                 stat->result_mask &= ~(STATX_CTIME|STATX_MTIME);
  52                 return;
  53         }
  54
  55         stat->mtime = inode_get_mtime(inode);
  56         stat->ctime.tv_sec = inode->i_ctime_sec;
  57         stat->ctime.tv_nsec = (u32)atomic_read(pcn);
  58         if (!(stat->ctime.tv_nsec & I_CTIME_QUERIED))
  59                 stat->ctime.tv_nsec = ((u32)atomic_fetch_or(I_CTIME_QUERIED, pcn));
  60         stat->ctime.tv_nsec &= ~I_CTIME_QUERIED;
  61         trace_fill_mg_cmtime(inode, &stat->ctime, &stat->mtime);
  62 }
  63 EXPORT_SYMBOL(fill_mg_cmtime);
  64
  65 /**
  66  * generic_fillattr - Fill in the basic attributes from the inode struct
  67  * @idmap:              idmap of the mount the inode was found from
  68  * @request_mask:       statx request_mask
  69  * @inode:              Inode to use as the source
  70  * @stat:               Where to fill in the attributes
  71  *
  72  * Fill in the basic attributes in the kstat structure from data that's to be
  73  * found on the VFS inode structure.  This is the default if no getattr inode
  74  * operation is supplied.
  75  *
  76  * If the inode has been found through an idmapped mount the idmap of
  77  * the vfsmount must be passed through @idmap. This function will then
  78  * take care to map the inode according to @idmap before filling in the
  79  * uid and gid filds. On non-idmapped mounts or if permission checking is to be
  80  * performed on the raw inode simply pass @nop_mnt_idmap.
  81  */
  82 void generic_fillattr(struct mnt_idmap *idmap, u32 request_mask,
  83                       struct inode *inode, struct kstat *stat)
  84 {
  85         vfsuid_t vfsuid = i_uid_into_vfsuid(idmap, inode);
  86         vfsgid_t vfsgid = i_gid_into_vfsgid(idmap, inode);
  87
  88         stat->dev = inode->i_sb->s_dev;
  89         stat->ino = inode->i_ino;
  90         stat->mode = inode->i_mode;
  91         stat->nlink = inode->i_nlink;
  92         stat->uid = vfsuid_into_kuid(vfsuid);
  93         stat->gid = vfsgid_into_kgid(vfsgid);
  94         stat->rdev = inode->i_rdev;
  95         stat->size = i_size_read(inode);
  96         stat->atime = inode_get_atime(inode);
  97
  98         if (is_mgtime(inode)) {
  99                 fill_mg_cmtime(stat, request_mask, inode);
 100         } else {
 101                 stat->ctime = inode_get_ctime(inode);
 102                 stat->mtime = inode_get_mtime(inode);
 103         }
 104
 105         stat->blksize = i_blocksize(inode);
 106         stat->blocks = inode->i_blocks;
 107
 108         if ((request_mask & STATX_CHANGE_COOKIE) && IS_I_VERSION(inode)) {
 109                 stat->result_mask |= STATX_CHANGE_COOKIE;
 110                 stat->change_cookie = inode_query_iversion(inode);
 111         }
 112
 113 }
 114 EXPORT_SYMBOL(generic_fillattr);
 115
 116 /**
 117  * generic_fill_statx_attr - Fill in the statx attributes from the inode flags
 118  * @inode:      Inode to use as the source
 119  * @stat:       Where to fill in the attribute flags
 120  *
 121  * Fill in the STATX_ATTR_* flags in the kstat structure for properties of the
 122  * inode that are published on i_flags and enforced by the VFS.
 123  */
 124 void generic_fill_statx_attr(struct inode *inode, struct kstat *stat)
 125 {
 126         if (inode->i_flags & S_IMMUTABLE)
 127                 stat->attributes |= STATX_ATTR_IMMUTABLE;
 128         if (inode->i_flags & S_APPEND)
 129                 stat->attributes |= STATX_ATTR_APPEND;
 130         stat->attributes_mask |= KSTAT_ATTR_VFS_FLAGS;
 131 }
 132 EXPORT_SYMBOL(generic_fill_statx_attr);
 133
 134 /**
 135  * generic_fill_statx_atomic_writes - Fill in atomic writes statx attributes
 136  * @stat:       Where to fill in the attribute flags
 137  * @unit_min:   Minimum supported atomic write length in bytes
 138  * @unit_max:   Maximum supported atomic write length in bytes
 139  *
 140  * Fill in the STATX{_ATTR}_WRITE_ATOMIC flags in the kstat structure from
 141  * atomic write unit_min and unit_max values.
 142  */
 143 void generic_fill_statx_atomic_writes(struct kstat *stat,
 144                                       unsigned int unit_min,
 145                                       unsigned int unit_max)
 146 {
 147         /* Confirm that the request type is known */
 148         stat->result_mask |= STATX_WRITE_ATOMIC;
 149
 150         /* Confirm that the file attribute type is known */
 151         stat->attributes_mask |= STATX_ATTR_WRITE_ATOMIC;
 152
 153         if (unit_min) {
 154                 stat->atomic_write_unit_min = unit_min;
 155                 stat->atomic_write_unit_max = unit_max;
 156                 /* Initially only allow 1x segment */
 157                 stat->atomic_write_segments_max = 1;
 158
 159                 /* Confirm atomic writes are actually supported */
 160                 stat->attributes |= STATX_ATTR_WRITE_ATOMIC;
 161         }
 162 }
 163 EXPORT_SYMBOL_GPL(generic_fill_statx_atomic_writes);
 164
 165 /**
 166  * vfs_getattr_nosec - getattr without security checks
 167  * @path: file to get attributes from
 168  * @stat: structure to return attributes in
 169  * @request_mask: STATX_xxx flags indicating what the caller wants
 170  * @query_flags: Query mode (AT_STATX_SYNC_TYPE)
 171  *
 172  * Get attributes without calling security_inode_getattr.
 173  *
 174  * Currently the only caller other than vfs_getattr is internal to the
 175  * filehandle lookup code, which uses only the inode number and returns no
 176  * attributes to any user.  Any other code probably wants vfs_getattr.
 177  */
 178 int vfs_getattr_nosec(const struct path *path, struct kstat *stat,
 179                       u32 request_mask, unsigned int query_flags)
 180 {
 181         struct mnt_idmap *idmap;
 182         struct inode *inode = d_backing_inode(path->dentry);
 183
 184         memset(stat, 0, sizeof(*stat));
 185         stat->result_mask |= STATX_BASIC_STATS;
 186         query_flags &= AT_STATX_SYNC_TYPE;
 187
 188         /* allow the fs to override these if it really wants to */
 189         /* SB_NOATIME means filesystem supplies dummy atime value */
 190         if (inode->i_sb->s_flags & SB_NOATIME)
 191                 stat->result_mask &= ~STATX_ATIME;
 192
 193         /*
 194          * Note: If you add another clause to set an attribute flag, please
 195          * update attributes_mask below.
 196          */
 197         if (IS_AUTOMOUNT(inode))
 198                 stat->attributes |= STATX_ATTR_AUTOMOUNT;
 199
 200         if (IS_DAX(inode))
 201                 stat->attributes |= STATX_ATTR_DAX;
 202
 203         stat->attributes_mask |= (STATX_ATTR_AUTOMOUNT |
 204                                   STATX_ATTR_DAX);
 205
 206         idmap = mnt_idmap(path->mnt);
 207         if (inode->i_op->getattr)
 208                 return inode->i_op->getattr(idmap, path, stat,
 209                                             request_mask,
 210                                             query_flags | AT_GETATTR_NOSEC);
 211
 212         generic_fillattr(idmap, request_mask, inode, stat);
 213         return 0;
 214 }
 215 EXPORT_SYMBOL(vfs_getattr_nosec);
 216
 217 /*
 218  * vfs_getattr - Get the enhanced basic attributes of a file
 219  * @path: The file of interest
 220  * @stat: Where to return the statistics
 221  * @request_mask: STATX_xxx flags indicating what the caller wants
 222  * @query_flags: Query mode (AT_STATX_SYNC_TYPE)
 223  *
 224  * Ask the filesystem for a file's attributes.  The caller must indicate in
 225  * request_mask and query_flags to indicate what they want.
 226  *
 227  * If the file is remote, the filesystem can be forced to update the attributes
 228  * from the backing store by passing AT_STATX_FORCE_SYNC in query_flags or can
 229  * suppress the update by passing AT_STATX_DONT_SYNC.
 230  *
 231  * Bits must have been set in request_mask to indicate which attributes the
 232  * caller wants retrieving.  Any such attribute not requested may be returned
 233  * anyway, but the value may be approximate, and, if remote, may not have been
 234  * synchronised with the server.
 235  *
 236  * 0 will be returned on success, and a -ve error code if unsuccessful.
 237  */
 238 int vfs_getattr(const struct path *path, struct kstat *stat,
 239                 u32 request_mask, unsigned int query_flags)
 240 {
 241         int retval;
 242
 243         if (WARN_ON_ONCE(query_flags & AT_GETATTR_NOSEC))
 244                 return -EPERM;
 245
 246         retval = security_inode_getattr(path);
 247         if (retval)
 248                 return retval;
 249         return vfs_getattr_nosec(path, stat, request_mask, query_flags);
 250 }
 251 EXPORT_SYMBOL(vfs_getattr);
 252
 253 /**
 254  * vfs_fstat - Get the basic attributes by file descriptor
 255  * @fd: The file descriptor referring to the file of interest
 256  * @stat: The result structure to fill in.
 257  *
 258  * This function is a wrapper around vfs_getattr().  The main difference is
 259  * that it uses a file descriptor to determine the file location.
 260  *
 261  * 0 will be returned on success, and a -ve error code if unsuccessful.
 262  */
 263 int vfs_fstat(int fd, struct kstat *stat)
 264 {
 265         struct fd f;
 266         int error;
 267
 268         f = fdget_raw(fd);
 269         if (!fd_file(f))
 270                 return -EBADF;
 271         error = vfs_getattr(&fd_file(f)->f_path, stat, STATX_BASIC_STATS, 0);
 272         fdput(f);
 273         return error;
 274 }
 275
 276 int getname_statx_lookup_flags(int flags)
 277 {
 278         int lookup_flags = 0;
 279
 280         if (!(flags & AT_SYMLINK_NOFOLLOW))
 281                 lookup_flags |= LOOKUP_FOLLOW;
 282         if (!(flags & AT_NO_AUTOMOUNT))
 283                 lookup_flags |= LOOKUP_AUTOMOUNT;
 284         if (flags & AT_EMPTY_PATH)
 285                 lookup_flags |= LOOKUP_EMPTY;
 286
 287         return lookup_flags;
 288 }
 289
 290 static int vfs_statx_path(struct path *path, int flags, struct kstat *stat,
 291                           u32 request_mask)
 292 {
 293         int error = vfs_getattr(path, stat, request_mask, flags);
 294
 295         if (request_mask & STATX_MNT_ID_UNIQUE) {
 296                 stat->mnt_id = real_mount(path->mnt)->mnt_id_unique;
 297                 stat->result_mask |= STATX_MNT_ID_UNIQUE;
 298         } else {
 299                 stat->mnt_id = real_mount(path->mnt)->mnt_id;
 300                 stat->result_mask |= STATX_MNT_ID;
 301         }
 302
 303         if (path_mounted(path))
 304                 stat->attributes |= STATX_ATTR_MOUNT_ROOT;
 305         stat->attributes_mask |= STATX_ATTR_MOUNT_ROOT;
 306
 307         /*
 308          * If this is a block device inode, override the filesystem
 309          * attributes with the block device specific parameters that need to be
 310          * obtained from the bdev backing inode.
 311          */
 312         if (S_ISBLK(stat->mode))
 313                 bdev_statx(path, stat, request_mask);
 314
 315         return error;
 316 }
 317
 318 static int vfs_statx_fd(int fd, int flags, struct kstat *stat,
 319                           u32 request_mask)
 320 {
 321         CLASS(fd_raw, f)(fd);
 322         if (!fd_file(f))
 323                 return -EBADF;
 324         return vfs_statx_path(&fd_file(f)->f_path, flags, stat, request_mask);
 325 }
 326
 327 /**
 328  * vfs_statx - Get basic and extra attributes by filename
 329  * @dfd: A file descriptor representing the base dir for a relative filename
 330  * @filename: The name of the file of interest
 331  * @flags: Flags to control the query
 332  * @stat: The result structure to fill in.
 333  * @request_mask: STATX_xxx flags indicating what the caller wants
 334  *
 335  * This function is a wrapper around vfs_getattr().  The main difference is
 336  * that it uses a filename and base directory to determine the file location.
 337  * Additionally, the use of AT_SYMLINK_NOFOLLOW in flags will prevent a symlink
 338  * at the given name from being referenced.
 339  *
 340  * 0 will be returned on success, and a -ve error code if unsuccessful.
 341  */
 342 static int vfs_statx(int dfd, struct filename *filename, int flags,
 343               struct kstat *stat, u32 request_mask)
 344 {
 345         struct path path;
 346         unsigned int lookup_flags = getname_statx_lookup_flags(flags);
 347         int error;
 348
 349         if (flags & ~(AT_SYMLINK_NOFOLLOW | AT_NO_AUTOMOUNT | AT_EMPTY_PATH |
 350                       AT_STATX_SYNC_TYPE))
 351                 return -EINVAL;
 352
 353 retry:
 354         error = filename_lookup(dfd, filename, lookup_flags, &path, NULL);
 355         if (error)
 356                 return error;
 357         error = vfs_statx_path(&path, flags, stat, request_mask);
 358         path_put(&path);
 359         if (retry_estale(error, lookup_flags)) {
 360                 lookup_flags |= LOOKUP_REVAL;
 361                 goto retry;
 362         }
 363         return error;
 364 }
 365
 366 int vfs_fstatat(int dfd, const char __user *filename,
 367                               struct kstat *stat, int flags)
 368 {
 369         int ret;
 370         int statx_flags = flags | AT_NO_AUTOMOUNT;
 371         struct filename *name = getname_maybe_null(filename, flags);
 372
 373         if (!name && dfd >= 0)
 374                 return vfs_fstat(dfd, stat);
 375
 376         ret = vfs_statx(dfd, name, statx_flags, stat, STATX_BASIC_STATS);
 377         putname(name);
 378
 379         return ret;
 380 }
 381
 382 #ifdef __ARCH_WANT_OLD_STAT
 383
 384 /*
 385  * For backward compatibility?  Maybe this should be moved
 386  * into arch/i386 instead?
 387  */
 388 static int cp_old_stat(struct kstat *stat, struct __old_kernel_stat __user * statbuf)
 389 {
 390         static int warncount = 5;
 391         struct __old_kernel_stat tmp;
 392
 393         if (warncount > 0) {
 394                 warncount--;
 395                 printk(KERN_WARNING "VFS: Warning: %s using old stat() call. Recompile your binary.\n",
 396                         current->comm);
 397         } else if (warncount < 0) {
 398                 /* it's laughable, but... */
 399                 warncount = 0;
 400         }
 401
 402         memset(&tmp, 0, sizeof(struct __old_kernel_stat));
 403         tmp.st_dev = old_encode_dev(stat->dev);
 404         tmp.st_ino = stat->ino;
 405         if (sizeof(tmp.st_ino) < sizeof(stat->ino) && tmp.st_ino != stat->ino)
 406                 return -EOVERFLOW;
 407         tmp.st_mode = stat->mode;
 408         tmp.st_nlink = stat->nlink;
 409         if (tmp.st_nlink != stat->nlink)
 410                 return -EOVERFLOW;
 411         SET_UID(tmp.st_uid, from_kuid_munged(current_user_ns(), stat->uid));
 412         SET_GID(tmp.st_gid, from_kgid_munged(current_user_ns(), stat->gid));
 413         tmp.st_rdev = old_encode_dev(stat->rdev);
 414 #if BITS_PER_LONG == 32
 415         if (stat->size > MAX_NON_LFS)
 416                 return -EOVERFLOW;
 417 #endif
 418         tmp.st_size = stat->size;
 419         tmp.st_atime = stat->atime.tv_sec;
 420         tmp.st_mtime = stat->mtime.tv_sec;
 421         tmp.st_ctime = stat->ctime.tv_sec;
 422         return copy_to_user(statbuf,&tmp,sizeof(tmp)) ? -EFAULT : 0;
 423 }
 424
 425 SYSCALL_DEFINE2(stat, const char __user *, filename,
 426                 struct __old_kernel_stat __user *, statbuf)
 427 {
 428         struct kstat stat;
 429         int error;
 430
 431         error = vfs_stat(filename, &stat);
 432         if (error)
 433                 return error;
 434
 435         return cp_old_stat(&stat, statbuf);
 436 }
 437
 438 SYSCALL_DEFINE2(lstat, const char __user *, filename,
 439                 struct __old_kernel_stat __user *, statbuf)
 440 {
 441         struct kstat stat;
 442         int error;
 443
 444         error = vfs_lstat(filename, &stat);
 445         if (error)
 446                 return error;
 447
 448         return cp_old_stat(&stat, statbuf);
 449 }
 450
 451 SYSCALL_DEFINE2(fstat, unsigned int, fd, struct __old_kernel_stat __user *, statbuf)
 452 {
 453         struct kstat stat;
 454         int error = vfs_fstat(fd, &stat);
 455
 456         if (!error)
 457                 error = cp_old_stat(&stat, statbuf);
 458
 459         return error;
 460 }
 461
 462 #endif /* __ARCH_WANT_OLD_STAT */
 463
 464 #ifdef __ARCH_WANT_NEW_STAT
 465
 466 #ifndef INIT_STRUCT_STAT_PADDING
 467 #  define INIT_STRUCT_STAT_PADDING(st) memset(&st, 0, sizeof(st))
 468 #endif
 469
 470 static int cp_new_stat(struct kstat *stat, struct stat __user *statbuf)
 471 {
 472         struct stat tmp;
 473
 474         if (sizeof(tmp.st_dev) < 4 && !old_valid_dev(stat->dev))
 475                 return -EOVERFLOW;
 476         if (sizeof(tmp.st_rdev) < 4 && !old_valid_dev(stat->rdev))
 477                 return -EOVERFLOW;
 478 #if BITS_PER_LONG == 32
 479         if (stat->size > MAX_NON_LFS)
 480                 return -EOVERFLOW;
 481 #endif
 482
 483         INIT_STRUCT_STAT_PADDING(tmp);
 484         tmp.st_dev = new_encode_dev(stat->dev);
 485         tmp.st_ino = stat->ino;
 486         if (sizeof(tmp.st_ino) < sizeof(stat->ino) && tmp.st_ino != stat->ino)
 487                 return -EOVERFLOW;
 488         tmp.st_mode = stat->mode;
 489         tmp.st_nlink = stat->nlink;
 490         if (tmp.st_nlink != stat->nlink)
 491                 return -EOVERFLOW;
 492         SET_UID(tmp.st_uid, from_kuid_munged(current_user_ns(), stat->uid));
 493         SET_GID(tmp.st_gid, from_kgid_munged(current_user_ns(), stat->gid));
 494         tmp.st_rdev = new_encode_dev(stat->rdev);
 495         tmp.st_size = stat->size;
 496         tmp.st_atime = stat->atime.tv_sec;
 497         tmp.st_mtime = stat->mtime.tv_sec;
 498         tmp.st_ctime = stat->ctime.tv_sec;
 499 #ifdef STAT_HAVE_NSEC
 500         tmp.st_atime_nsec = stat->atime.tv_nsec;
 501         tmp.st_mtime_nsec = stat->mtime.tv_nsec;
 502         tmp.st_ctime_nsec = stat->ctime.tv_nsec;
 503 #endif
 504         tmp.st_blocks = stat->blocks;
 505         tmp.st_blksize = stat->blksize;
 506         return copy_to_user(statbuf,&tmp,sizeof(tmp)) ? -EFAULT : 0;
 507 }
 508
 509 SYSCALL_DEFINE2(newstat, const char __user *, filename,
 510                 struct stat __user *, statbuf)
 511 {
 512         struct kstat stat;
 513         int error = vfs_stat(filename, &stat);
 514
 515         if (error)
 516                 return error;
 517         return cp_new_stat(&stat, statbuf);
 518 }
 519
 520 SYSCALL_DEFINE2(newlstat, const char __user *, filename,
 521                 struct stat __user *, statbuf)
 522 {
 523         struct kstat stat;
 524         int error;
 525
 526         error = vfs_lstat(filename, &stat);
 527         if (error)
 528                 return error;
 529
 530         return cp_new_stat(&stat, statbuf);
 531 }
 532
 533 #if !defined(__ARCH_WANT_STAT64) || defined(__ARCH_WANT_SYS_NEWFSTATAT)
 534 SYSCALL_DEFINE4(newfstatat, int, dfd, const char __user *, filename,
 535                 struct stat __user *, statbuf, int, flag)
 536 {
 537         struct kstat stat;
 538         int error;
 539
 540         error = vfs_fstatat(dfd, filename, &stat, flag);
 541         if (error)
 542                 return error;
 543         return cp_new_stat(&stat, statbuf);
 544 }
 545 #endif
 546
 547 SYSCALL_DEFINE2(newfstat, unsigned int, fd, struct stat __user *, statbuf)
 548 {
 549         struct kstat stat;
 550         int error = vfs_fstat(fd, &stat);
 551
 552         if (!error)
 553                 error = cp_new_stat(&stat, statbuf);
 554
 555         return error;
 556 }
 557 #endif
 558
 559 static int do_readlinkat(int dfd, const char __user *pathname,
 560                          char __user *buf, int bufsiz)
 561 {
 562         struct path path;
 563         struct filename *name;
 564         int error;
 565         unsigned int lookup_flags = LOOKUP_EMPTY;
 566
 567         if (bufsiz <= 0)
 568                 return -EINVAL;
 569
 570 retry:
 571         name = getname_flags(pathname, lookup_flags);
 572         error = filename_lookup(dfd, name, lookup_flags, &path, NULL);
 573         if (unlikely(error)) {
 574                 putname(name);
 575                 return error;
 576         }
 577
 578         /*
 579          * AFS mountpoints allow readlink(2) but are not symlinks
 580          */
 581         if (d_is_symlink(path.dentry) ||
 582             d_backing_inode(path.dentry)->i_op->readlink) {
 583                 error = security_inode_readlink(path.dentry);
 584                 if (!error) {
 585                         touch_atime(&path);
 586                         error = vfs_readlink(path.dentry, buf, bufsiz);
 587                 }
 588         } else {
 589                 error = (name->name[0] == '\0') ? -ENOENT : -EINVAL;
 590         }
 591         path_put(&path);
 592         putname(name);
 593         if (retry_estale(error, lookup_flags)) {
 594                 lookup_flags |= LOOKUP_REVAL;
 595                 goto retry;
 596         }
 597         return error;
 598 }
 599
 600 SYSCALL_DEFINE4(readlinkat, int, dfd, const char __user *, pathname,
 601                 char __user *, buf, int, bufsiz)
 602 {
 603         return do_readlinkat(dfd, pathname, buf, bufsiz);
 604 }
 605
 606 SYSCALL_DEFINE3(readlink, const char __user *, path, char __user *, buf,
 607                 int, bufsiz)
 608 {
 609         return do_readlinkat(AT_FDCWD, path, buf, bufsiz);
 610 }
 611
 612
 613 /* ---------- LFS-64 ----------- */
 614 #if defined(__ARCH_WANT_STAT64) || defined(__ARCH_WANT_COMPAT_STAT64)
 615
 616 #ifndef INIT_STRUCT_STAT64_PADDING
 617 #  define INIT_STRUCT_STAT64_PADDING(st) memset(&st, 0, sizeof(st))
 618 #endif
 619
 620 static long cp_new_stat64(struct kstat *stat, struct stat64 __user *statbuf)
 621 {
 622         struct stat64 tmp;
 623
 624         INIT_STRUCT_STAT64_PADDING(tmp);
 625 #ifdef CONFIG_MIPS
 626         /* mips has weird padding, so we don't get 64 bits there */
 627         tmp.st_dev = new_encode_dev(stat->dev);
 628         tmp.st_rdev = new_encode_dev(stat->rdev);
 629 #else
 630         tmp.st_dev = huge_encode_dev(stat->dev);
 631         tmp.st_rdev = huge_encode_dev(stat->rdev);
 632 #endif
 633         tmp.st_ino = stat->ino;
 634         if (sizeof(tmp.st_ino) < sizeof(stat->ino) && tmp.st_ino != stat->ino)
 635                 return -EOVERFLOW;
 636 #ifdef STAT64_HAS_BROKEN_ST_INO
 637         tmp.__st_ino = stat->ino;
 638 #endif
 639         tmp.st_mode = stat->mode;
 640         tmp.st_nlink = stat->nlink;
 641         tmp.st_uid = from_kuid_munged(current_user_ns(), stat->uid);
 642         tmp.st_gid = from_kgid_munged(current_user_ns(), stat->gid);
 643         tmp.st_atime = stat->atime.tv_sec;
 644         tmp.st_atime_nsec = stat->atime.tv_nsec;
 645         tmp.st_mtime = stat->mtime.tv_sec;
 646         tmp.st_mtime_nsec = stat->mtime.tv_nsec;
 647         tmp.st_ctime = stat->ctime.tv_sec;
 648         tmp.st_ctime_nsec = stat->ctime.tv_nsec;
 649         tmp.st_size = stat->size;
 650         tmp.st_blocks = stat->blocks;
 651         tmp.st_blksize = stat->blksize;
 652         return copy_to_user(statbuf,&tmp,sizeof(tmp)) ? -EFAULT : 0;
 653 }
 654
 655 SYSCALL_DEFINE2(stat64, const char __user *, filename,
 656                 struct stat64 __user *, statbuf)
 657 {
 658         struct kstat stat;
 659         int error = vfs_stat(filename, &stat);
 660
 661         if (!error)
 662                 error = cp_new_stat64(&stat, statbuf);
 663
 664         return error;
 665 }
 666
 667 SYSCALL_DEFINE2(lstat64, const char __user *, filename,
 668                 struct stat64 __user *, statbuf)
 669 {
 670         struct kstat stat;
 671         int error = vfs_lstat(filename, &stat);
 672
 673         if (!error)
 674                 error = cp_new_stat64(&stat, statbuf);
 675
 676         return error;
 677 }
 678
 679 SYSCALL_DEFINE2(fstat64, unsigned long, fd, struct stat64 __user *, statbuf)
 680 {
 681         struct kstat stat;
 682         int error = vfs_fstat(fd, &stat);
 683
 684         if (!error)
 685                 error = cp_new_stat64(&stat, statbuf);
 686
 687         return error;
 688 }
 689
 690 SYSCALL_DEFINE4(fstatat64, int, dfd, const char __user *, filename,
 691                 struct stat64 __user *, statbuf, int, flag)
 692 {
 693         struct kstat stat;
 694         int error;
 695
 696         error = vfs_fstatat(dfd, filename, &stat, flag);
 697         if (error)
 698                 return error;
 699         return cp_new_stat64(&stat, statbuf);
 700 }
 701 #endif /* __ARCH_WANT_STAT64 || __ARCH_WANT_COMPAT_STAT64 */
 702
 703 static noinline_for_stack int
 704 cp_statx(const struct kstat *stat, struct statx __user *buffer)
 705 {
 706         struct statx tmp;
 707
 708         memset(&tmp, 0, sizeof(tmp));
 709
 710         /* STATX_CHANGE_COOKIE is kernel-only for now */
 711         tmp.stx_mask = stat->result_mask & ~STATX_CHANGE_COOKIE;
 712         tmp.stx_blksize = stat->blksize;
 713         /* STATX_ATTR_CHANGE_MONOTONIC is kernel-only for now */
 714         tmp.stx_attributes = stat->attributes & ~STATX_ATTR_CHANGE_MONOTONIC;
 715         tmp.stx_nlink = stat->nlink;
 716         tmp.stx_uid = from_kuid_munged(current_user_ns(), stat->uid);
 717         tmp.stx_gid = from_kgid_munged(current_user_ns(), stat->gid);
 718         tmp.stx_mode = stat->mode;
 719         tmp.stx_ino = stat->ino;
 720         tmp.stx_size = stat->size;
 721         tmp.stx_blocks = stat->blocks;
 722         tmp.stx_attributes_mask = stat->attributes_mask;
 723         tmp.stx_atime.tv_sec = stat->atime.tv_sec;
 724         tmp.stx_atime.tv_nsec = stat->atime.tv_nsec;
 725         tmp.stx_btime.tv_sec = stat->btime.tv_sec;
 726         tmp.stx_btime.tv_nsec = stat->btime.tv_nsec;
 727         tmp.stx_ctime.tv_sec = stat->ctime.tv_sec;
 728         tmp.stx_ctime.tv_nsec = stat->ctime.tv_nsec;
 729         tmp.stx_mtime.tv_sec = stat->mtime.tv_sec;
 730         tmp.stx_mtime.tv_nsec = stat->mtime.tv_nsec;
 731         tmp.stx_rdev_major = MAJOR(stat->rdev);
 732         tmp.stx_rdev_minor = MINOR(stat->rdev);
 733         tmp.stx_dev_major = MAJOR(stat->dev);
 734         tmp.stx_dev_minor = MINOR(stat->dev);
 735         tmp.stx_mnt_id = stat->mnt_id;
 736         tmp.stx_dio_mem_align = stat->dio_mem_align;
 737         tmp.stx_dio_offset_align = stat->dio_offset_align;
 738         tmp.stx_subvol = stat->subvol;
 739         tmp.stx_atomic_write_unit_min = stat->atomic_write_unit_min;
 740         tmp.stx_atomic_write_unit_max = stat->atomic_write_unit_max;
 741         tmp.stx_atomic_write_segments_max = stat->atomic_write_segments_max;
 742
 743         return copy_to_user(buffer, &tmp, sizeof(tmp)) ? -EFAULT : 0;
 744 }
 745
 746 int do_statx(int dfd, struct filename *filename, unsigned int flags,
 747              unsigned int mask, struct statx __user *buffer)
 748 {
 749         struct kstat stat;
 750         int error;
 751
 752         if (mask & STATX__RESERVED)
 753                 return -EINVAL;
 754         if ((flags & AT_STATX_SYNC_TYPE) == AT_STATX_SYNC_TYPE)
 755                 return -EINVAL;
 756
 757         /*
 758          * STATX_CHANGE_COOKIE is kernel-only for now. Ignore requests
 759          * from userland.
 760          */
 761         mask &= ~STATX_CHANGE_COOKIE;
 762
 763         error = vfs_statx(dfd, filename, flags, &stat, mask);
 764         if (error)
 765                 return error;
 766
 767         return cp_statx(&stat, buffer);
 768 }
 769
 770 int do_statx_fd(int fd, unsigned int flags, unsigned int mask,
 771              struct statx __user *buffer)
 772 {
 773         struct kstat stat;
 774         int error;
 775
 776         if (mask & STATX__RESERVED)
 777                 return -EINVAL;
 778         if ((flags & AT_STATX_SYNC_TYPE) == AT_STATX_SYNC_TYPE)
 779                 return -EINVAL;
 780
 781         /*
 782          * STATX_CHANGE_COOKIE is kernel-only for now. Ignore requests
 783          * from userland.
 784          */
 785         mask &= ~STATX_CHANGE_COOKIE;
 786
 787         error = vfs_statx_fd(fd, flags, &stat, mask);
 788         if (error)
 789                 return error;
 790
 791         return cp_statx(&stat, buffer);
 792 }
 793
 794 /**
 795  * sys_statx - System call to get enhanced stats
 796  * @dfd: Base directory to pathwalk from *or* fd to stat.
 797  * @filename: File to stat or either NULL or "" with AT_EMPTY_PATH
 798  * @flags: AT_* flags to control pathwalk.
 799  * @mask: Parts of statx struct actually required.
 800  * @buffer: Result buffer.
 801  *
 802  * Note that fstat() can be emulated by setting dfd to the fd of interest,
 803  * supplying "" (or preferably NULL) as the filename and setting AT_EMPTY_PATH
 804  * in the flags.
 805  */
 806 SYSCALL_DEFINE5(statx,
 807                 int, dfd, const char __user *, filename, unsigned, flags,
 808                 unsigned int, mask,
 809                 struct statx __user *, buffer)
 810 {
 811         int ret;
 812         struct filename *name = getname_maybe_null(filename, flags);
 813
 814         if (!name && dfd >= 0)
 815                 return do_statx_fd(dfd, flags & ~AT_NO_AUTOMOUNT, mask, buffer);
 816
 817         ret = do_statx(dfd, name, flags, mask, buffer);
 818         putname(name);
 819
 820         return ret;
 821 }
 822
 823 #if defined(CONFIG_COMPAT) && defined(__ARCH_WANT_COMPAT_STAT)
 824 static int cp_compat_stat(struct kstat *stat, struct compat_stat __user *ubuf)
 825 {
 826         struct compat_stat tmp;
 827
 828         if (sizeof(tmp.st_dev) < 4 && !old_valid_dev(stat->dev))
 829                 return -EOVERFLOW;
 830         if (sizeof(tmp.st_rdev) < 4 && !old_valid_dev(stat->rdev))
 831                 return -EOVERFLOW;
 832
 833         memset(&tmp, 0, sizeof(tmp));
 834         tmp.st_dev = new_encode_dev(stat->dev);
 835         tmp.st_ino = stat->ino;
 836         if (sizeof(tmp.st_ino) < sizeof(stat->ino) && tmp.st_ino != stat->ino)
 837                 return -EOVERFLOW;
 838         tmp.st_mode = stat->mode;
 839         tmp.st_nlink = stat->nlink;
 840         if (tmp.st_nlink != stat->nlink)
 841                 return -EOVERFLOW;
 842         SET_UID(tmp.st_uid, from_kuid_munged(current_user_ns(), stat->uid));
 843         SET_GID(tmp.st_gid, from_kgid_munged(current_user_ns(), stat->gid));
 844         tmp.st_rdev = new_encode_dev(stat->rdev);
 845         if ((u64) stat->size > MAX_NON_LFS)
 846                 return -EOVERFLOW;
 847         tmp.st_size = stat->size;
 848         tmp.st_atime = stat->atime.tv_sec;
 849         tmp.st_atime_nsec = stat->atime.tv_nsec;
 850         tmp.st_mtime = stat->mtime.tv_sec;
 851         tmp.st_mtime_nsec = stat->mtime.tv_nsec;
 852         tmp.st_ctime = stat->ctime.tv_sec;
 853         tmp.st_ctime_nsec = stat->ctime.tv_nsec;
 854         tmp.st_blocks = stat->blocks;
 855         tmp.st_blksize = stat->blksize;
 856         return copy_to_user(ubuf, &tmp, sizeof(tmp)) ? -EFAULT : 0;
 857 }
 858
 859 COMPAT_SYSCALL_DEFINE2(newstat, const char __user *, filename,
 860                        struct compat_stat __user *, statbuf)
 861 {
 862         struct kstat stat;
 863         int error;
 864
 865         error = vfs_stat(filename, &stat);
 866         if (error)
 867                 return error;
 868         return cp_compat_stat(&stat, statbuf);
 869 }
 870
 871 COMPAT_SYSCALL_DEFINE2(newlstat, const char __user *, filename,
 872                        struct compat_stat __user *, statbuf)
 873 {
 874         struct kstat stat;
 875         int error;
 876
 877         error = vfs_lstat(filename, &stat);
 878         if (error)
 879                 return error;
 880         return cp_compat_stat(&stat, statbuf);
 881 }
 882
 883 #ifndef __ARCH_WANT_STAT64
 884 COMPAT_SYSCALL_DEFINE4(newfstatat, unsigned int, dfd,
 885                        const char __user *, filename,
 886                        struct compat_stat __user *, statbuf, int, flag)
 887 {
 888         struct kstat stat;
 889         int error;
 890
 891         error = vfs_fstatat(dfd, filename, &stat, flag);
 892         if (error)
 893                 return error;
 894         return cp_compat_stat(&stat, statbuf);
 895 }
 896 #endif
 897
 898 COMPAT_SYSCALL_DEFINE2(newfstat, unsigned int, fd,
 899                        struct compat_stat __user *, statbuf)
 900 {
 901         struct kstat stat;
 902         int error = vfs_fstat(fd, &stat);
 903
 904         if (!error)
 905                 error = cp_compat_stat(&stat, statbuf);
 906         return error;
 907 }
 908 #endif
 909
 910 /* Caller is here responsible for sufficient locking (ie. inode->i_lock) */
 911 void __inode_add_bytes(struct inode *inode, loff_t bytes)
 912 {
 913         inode->i_blocks += bytes >> 9;
 914         bytes &= 511;
 915         inode->i_bytes += bytes;
 916         if (inode->i_bytes >= 512) {
 917                 inode->i_blocks++;
 918                 inode->i_bytes -= 512;
 919         }
 920 }
 921 EXPORT_SYMBOL(__inode_add_bytes);
 922
 923 void inode_add_bytes(struct inode *inode, loff_t bytes)
 924 {
 925         spin_lock(&inode->i_lock);
 926         __inode_add_bytes(inode, bytes);
 927         spin_unlock(&inode->i_lock);
 928 }
 929
 930 EXPORT_SYMBOL(inode_add_bytes);
 931
 932 void __inode_sub_bytes(struct inode *inode, loff_t bytes)
 933 {
 934         inode->i_blocks -= bytes >> 9;
 935         bytes &= 511;
 936         if (inode->i_bytes < bytes) {
 937                 inode->i_blocks--;
 938                 inode->i_bytes += 512;
 939         }
 940         inode->i_bytes -= bytes;
 941 }
 942
 943 EXPORT_SYMBOL(__inode_sub_bytes);
 944
 945 void inode_sub_bytes(struct inode *inode, loff_t bytes)
 946 {
 947         spin_lock(&inode->i_lock);
 948         __inode_sub_bytes(inode, bytes);
 949         spin_unlock(&inode->i_lock);
 950 }
 951
 952 EXPORT_SYMBOL(inode_sub_bytes);
 953
 954 loff_t inode_get_bytes(struct inode *inode)
 955 {
 956         loff_t ret;
 957
 958         spin_lock(&inode->i_lock);
 959         ret = __inode_get_bytes(inode);
 960         spin_unlock(&inode->i_lock);
 961         return ret;
 962 }
 963
 964 EXPORT_SYMBOL(inode_get_bytes);
 965
 966 void inode_set_bytes(struct inode *inode, loff_t bytes)
 967 {
 968         /* Caller is here responsible for sufficient locking
 969          * (ie. inode->i_lock) */
 970         inode->i_blocks = bytes >> 9;
 971         inode->i_bytes = bytes & 511;
 972 }
 973
 974 EXPORT_SYMBOL(inode_set_bytes);