drivers/usb/gadget/function/u_serial.c

   1 /*
   2  * u_serial.c - utilities for USB gadget "serial port"/TTY support
   3  *
   4  * Copyright (C) 2003 Al Borchers ([email protected])
   5  * Copyright (C) 2008 David Brownell
   6  * Copyright (C) 2008 by Nokia Corporation
   7  *
   8  * This code also borrows from usbserial.c, which is
   9  * Copyright (C) 1999 - 2002 Greg Kroah-Hartman ([email protected])
  10  * Copyright (C) 2000 Peter Berger ([email protected])
  11  * Copyright (C) 2000 Al Borchers ([email protected])
  12  *
  13  * This software is distributed under the terms of the GNU General
  14  * Public License ("GPL") as published by the Free Software Foundation,
  15  * either version 2 of that License or (at your option) any later version.
  16  */
  17
  18 /* #define VERBOSE_DEBUG */
  19
  20 #include <linux/kernel.h>
  21 #include <linux/sched.h>
  22 #include <linux/interrupt.h>
  23 #include <linux/device.h>
  24 #include <linux/delay.h>
  25 #include <linux/tty.h>
  26 #include <linux/tty_flip.h>
  27 #include <linux/slab.h>
  28 #include <linux/export.h>
  29 #include <linux/module.h>
  30
  31 #include "u_serial.h"
  32
  33
  34 /*
  35  * This component encapsulates the TTY layer glue needed to provide basic
  36  * "serial port" functionality through the USB gadget stack.  Each such
  37  * port is exposed through a /dev/ttyGS* node.
  38  *
  39  * After this module has been loaded, the individual TTY port can be requested
  40  * (gserial_alloc_line()) and it will stay available until they are removed
  41  * (gserial_free_line()). Each one may be connected to a USB function
  42  * (gserial_connect), or disconnected (with gserial_disconnect) when the USB
  43  * host issues a config change event. Data can only flow when the port is
  44  * connected to the host.
  45  *
  46  * A given TTY port can be made available in multiple configurations.
  47  * For example, each one might expose a ttyGS0 node which provides a
  48  * login application.  In one case that might use CDC ACM interface 0,
  49  * while another configuration might use interface 3 for that.  The
  50  * work to handle that (including descriptor management) is not part
  51  * of this component.
  52  *
  53  * Configurations may expose more than one TTY port.  For example, if
  54  * ttyGS0 provides login service, then ttyGS1 might provide dialer access
  55  * for a telephone or fax link.  And ttyGS2 might be something that just
  56  * needs a simple byte stream interface for some messaging protocol that
  57  * is managed in userspace ... OBEX, PTP, and MTP have been mentioned.
  58  */
  59
  60 #define PREFIX  "ttyGS"
  61
  62 /*
  63  * gserial is the lifecycle interface, used by USB functions
  64  * gs_port is the I/O nexus, used by the tty driver
  65  * tty_struct links to the tty/filesystem framework
  66  *
  67  * gserial <---> gs_port ... links will be null when the USB link is
  68  * inactive; managed by gserial_{connect,disconnect}().  each gserial
  69  * instance can wrap its own USB control protocol.
  70  *      gserial->ioport == usb_ep->driver_data ... gs_port
  71  *      gs_port->port_usb ... gserial
  72  *
  73  * gs_port <---> tty_struct ... links will be null when the TTY file
  74  * isn't opened; managed by gs_open()/gs_close()
  75  *      gserial->port_tty ... tty_struct
  76  *      tty_struct->driver_data ... gserial
  77  */
  78
  79 /* RX and TX queues can buffer QUEUE_SIZE packets before they hit the
  80  * next layer of buffering.  For TX that's a circular buffer; for RX
  81  * consider it a NOP.  A third layer is provided by the TTY code.
  82  */
  83 #define QUEUE_SIZE              16
  84 #define WRITE_BUF_SIZE          8192            /* TX only */
  85
  86 /* circular buffer */
  87 struct gs_buf {
  88         unsigned                buf_size;
  89         char                    *buf_buf;
  90         char                    *buf_get;
  91         char                    *buf_put;
  92 };
  93
  94 /*
  95  * The port structure holds info for each port, one for each minor number
  96  * (and thus for each /dev/ node).
  97  */
  98 struct gs_port {
  99         struct tty_port         port;
 100         spinlock_t              port_lock;      /* guard port_* access */
 101
 102         struct gserial          *port_usb;
 103
 104         bool                    openclose;      /* open/close in progress */
 105         u8                      port_num;
 106
 107         struct list_head        read_pool;
 108         int read_started;
 109         int read_allocated;
 110         struct list_head        read_queue;
 111         unsigned                n_read;
 112         struct tasklet_struct   push;
 113
 114         struct list_head        write_pool;
 115         int write_started;
 116         int write_allocated;
 117         struct gs_buf           port_write_buf;
 118         wait_queue_head_t       drain_wait;     /* wait while writes drain */
 119
 120         /* REVISIT this state ... */
 121         struct usb_cdc_line_coding port_line_coding;    /* 8-N-1 etc */
 122 };
 123
 124 static struct portmaster {
 125         struct mutex    lock;                   /* protect open/close */
 126         struct gs_port  *port;
 127 } ports[MAX_U_SERIAL_PORTS];
 128
 129 #define GS_CLOSE_TIMEOUT                15              /* seconds */
 130
 131
 132
 133 #ifdef VERBOSE_DEBUG
 134 #ifndef pr_vdebug
 135 #define pr_vdebug(fmt, arg...) \
 136         pr_debug(fmt, ##arg)
 137 #endif /* pr_vdebug */
 138 #else
 139 #ifndef pr_vdebug
 140 #define pr_vdebug(fmt, arg...) \
 141         ({ if (0) pr_debug(fmt, ##arg); })
 142 #endif /* pr_vdebug */
 143 #endif
 144
 145 /*-------------------------------------------------------------------------*/
 146
 147 /* Circular Buffer */
 148
 149 /*
 150  * gs_buf_alloc
 151  *
 152  * Allocate a circular buffer and all associated memory.
 153  */
 154 static int gs_buf_alloc(struct gs_buf *gb, unsigned size)
 155 {
 156         gb->buf_buf = kmalloc(size, GFP_KERNEL);
 157         if (gb->buf_buf == NULL)
 158                 return -ENOMEM;
 159
 160         gb->buf_size = size;
 161         gb->buf_put = gb->buf_buf;
 162         gb->buf_get = gb->buf_buf;
 163
 164         return 0;
 165 }
 166
 167 /*
 168  * gs_buf_free
 169  *
 170  * Free the buffer and all associated memory.
 171  */
 172 static void gs_buf_free(struct gs_buf *gb)
 173 {
 174         kfree(gb->buf_buf);
 175         gb->buf_buf = NULL;
 176 }
 177
 178 /*
 179  * gs_buf_clear
 180  *
 181  * Clear out all data in the circular buffer.
 182  */
 183 static void gs_buf_clear(struct gs_buf *gb)
 184 {
 185         gb->buf_get = gb->buf_put;
 186         /* equivalent to a get of all data available */
 187 }
 188
 189 /*
 190  * gs_buf_data_avail
 191  *
 192  * Return the number of bytes of data written into the circular
 193  * buffer.
 194  */
 195 static unsigned gs_buf_data_avail(struct gs_buf *gb)
 196 {
 197         return (gb->buf_size + gb->buf_put - gb->buf_get) % gb->buf_size;
 198 }
 199
 200 /*
 201  * gs_buf_space_avail
 202  *
 203  * Return the number of bytes of space available in the circular
 204  * buffer.
 205  */
 206 static unsigned gs_buf_space_avail(struct gs_buf *gb)
 207 {
 208         return (gb->buf_size + gb->buf_get - gb->buf_put - 1) % gb->buf_size;
 209 }
 210
 211 /*
 212  * gs_buf_put
 213  *
 214  * Copy data data from a user buffer and put it into the circular buffer.
 215  * Restrict to the amount of space available.
 216  *
 217  * Return the number of bytes copied.
 218  */
 219 static unsigned
 220 gs_buf_put(struct gs_buf *gb, const char *buf, unsigned count)
 221 {
 222         unsigned len;
 223
 224         len  = gs_buf_space_avail(gb);
 225         if (count > len)
 226                 count = len;
 227
 228         if (count == 0)
 229                 return 0;
 230
 231         len = gb->buf_buf + gb->buf_size - gb->buf_put;
 232         if (count > len) {
 233                 memcpy(gb->buf_put, buf, len);
 234                 memcpy(gb->buf_buf, buf+len, count - len);
 235                 gb->buf_put = gb->buf_buf + count - len;
 236         } else {
 237                 memcpy(gb->buf_put, buf, count);
 238                 if (count < len)
 239                         gb->buf_put += count;
 240                 else /* count == len */
 241                         gb->buf_put = gb->buf_buf;
 242         }
 243
 244         return count;
 245 }
 246
 247 /*
 248  * gs_buf_get
 249  *
 250  * Get data from the circular buffer and copy to the given buffer.
 251  * Restrict to the amount of data available.
 252  *
 253  * Return the number of bytes copied.
 254  */
 255 static unsigned
 256 gs_buf_get(struct gs_buf *gb, char *buf, unsigned count)
 257 {
 258         unsigned len;
 259
 260         len = gs_buf_data_avail(gb);
 261         if (count > len)
 262                 count = len;
 263
 264         if (count == 0)
 265                 return 0;
 266
 267         len = gb->buf_buf + gb->buf_size - gb->buf_get;
 268         if (count > len) {
 269                 memcpy(buf, gb->buf_get, len);
 270                 memcpy(buf+len, gb->buf_buf, count - len);
 271                 gb->buf_get = gb->buf_buf + count - len;
 272         } else {
 273                 memcpy(buf, gb->buf_get, count);
 274                 if (count < len)
 275                         gb->buf_get += count;
 276                 else /* count == len */
 277                         gb->buf_get = gb->buf_buf;
 278         }
 279
 280         return count;
 281 }
 282
 283 /*-------------------------------------------------------------------------*/
 284
 285 /* I/O glue between TTY (upper) and USB function (lower) driver layers */
 286
 287 /*
 288  * gs_alloc_req
 289  *
 290  * Allocate a usb_request and its buffer.  Returns a pointer to the
 291  * usb_request or NULL if there is an error.
 292  */
 293 struct usb_request *
 294 gs_alloc_req(struct usb_ep *ep, unsigned len, gfp_t kmalloc_flags)
 295 {
 296         struct usb_request *req;
 297
 298         req = usb_ep_alloc_request(ep, kmalloc_flags);
 299
 300         if (req != NULL) {
 301                 req->length = len;
 302                 req->buf = kmalloc(len, kmalloc_flags);
 303                 if (req->buf == NULL) {
 304                         usb_ep_free_request(ep, req);
 305                         return NULL;
 306                 }
 307         }
 308
 309         return req;
 310 }
 311 EXPORT_SYMBOL_GPL(gs_alloc_req);
 312
 313 /*
 314  * gs_free_req
 315  *
 316  * Free a usb_request and its buffer.
 317  */
 318 void gs_free_req(struct usb_ep *ep, struct usb_request *req)
 319 {
 320         kfree(req->buf);
 321         usb_ep_free_request(ep, req);
 322 }
 323 EXPORT_SYMBOL_GPL(gs_free_req);
 324
 325 /*
 326  * gs_send_packet
 327  *
 328  * If there is data to send, a packet is built in the given
 329  * buffer and the size is returned.  If there is no data to
 330  * send, 0 is returned.
 331  *
 332  * Called with port_lock held.
 333  */
 334 static unsigned
 335 gs_send_packet(struct gs_port *port, char *packet, unsigned size)
 336 {
 337         unsigned len;
 338
 339         len = gs_buf_data_avail(&port->port_write_buf);
 340         if (len < size)
 341                 size = len;
 342         if (size != 0)
 343                 size = gs_buf_get(&port->port_write_buf, packet, size);
 344         return size;
 345 }
 346
 347 /*
 348  * gs_start_tx
 349  *
 350  * This function finds available write requests, calls
 351  * gs_send_packet to fill these packets with data, and
 352  * continues until either there are no more write requests
 353  * available or no more data to send.  This function is
 354  * run whenever data arrives or write requests are available.
 355  *
 356  * Context: caller owns port_lock; port_usb is non-null.
 357  */
 358 static int gs_start_tx(struct gs_port *port)
 359 /*
 360 __releases(&port->port_lock)
 361 __acquires(&port->port_lock)
 362 */
 363 {
 364         struct list_head        *pool = &port->write_pool;
 365         struct usb_ep           *in = port->port_usb->in;
 366         int                     status = 0;
 367         bool                    do_tty_wake = false;
 368
 369         while (!list_empty(pool)) {
 370                 struct usb_request      *req;
 371                 int                     len;
 372
 373                 if (port->write_started >= QUEUE_SIZE)
 374                         break;
 375
 376                 req = list_entry(pool->next, struct usb_request, list);
 377                 len = gs_send_packet(port, req->buf, in->maxpacket);
 378                 if (len == 0) {
 379                         wake_up_interruptible(&port->drain_wait);
 380                         break;
 381                 }
 382                 do_tty_wake = true;
 383
 384                 req->length = len;
 385                 list_del(&req->list);
 386                 req->zero = (gs_buf_data_avail(&port->port_write_buf) == 0);
 387
 388                 pr_vdebug(PREFIX "%d: tx len=%d, 0x%02x 0x%02x 0x%02x ...\n",
 389                                 port->port_num, len, *((u8 *)req->buf),
 390                                 *((u8 *)req->buf+1), *((u8 *)req->buf+2));
 391
 392                 /* Drop lock while we call out of driver; completions
 393                  * could be issued while we do so.  Disconnection may
 394                  * happen too; maybe immediately before we queue this!
 395                  *
 396                  * NOTE that we may keep sending data for a while after
 397                  * the TTY closed (dev->ioport->port_tty is NULL).
 398                  */
 399                 spin_unlock(&port->port_lock);
 400                 status = usb_ep_queue(in, req, GFP_ATOMIC);
 401                 spin_lock(&port->port_lock);
 402
 403                 if (status) {
 404                         pr_debug("%s: %s %s err %d\n",
 405                                         __func__, "queue", in->name, status);
 406                         list_add(&req->list, pool);
 407                         break;
 408                 }
 409
 410                 port->write_started++;
 411
 412                 /* abort immediately after disconnect */
 413                 if (!port->port_usb)
 414                         break;
 415         }
 416
 417         if (do_tty_wake && port->port.tty)
 418                 tty_wakeup(port->port.tty);
 419         return status;
 420 }
 421
 422 /*
 423  * Context: caller owns port_lock, and port_usb is set
 424  */
 425 static unsigned gs_start_rx(struct gs_port *port)
 426 /*
 427 __releases(&port->port_lock)
 428 __acquires(&port->port_lock)
 429 */
 430 {
 431         struct list_head        *pool = &port->read_pool;
 432         struct usb_ep           *out = port->port_usb->out;
 433
 434         while (!list_empty(pool)) {
 435                 struct usb_request      *req;
 436                 int                     status;
 437                 struct tty_struct       *tty;
 438
 439                 /* no more rx if closed */
 440                 tty = port->port.tty;
 441                 if (!tty)
 442                         break;
 443
 444                 if (port->read_started >= QUEUE_SIZE)
 445                         break;
 446
 447                 req = list_entry(pool->next, struct usb_request, list);
 448                 list_del(&req->list);
 449                 req->length = out->maxpacket;
 450
 451                 /* drop lock while we call out; the controller driver
 452                  * may need to call us back (e.g. for disconnect)
 453                  */
 454                 spin_unlock(&port->port_lock);
 455                 status = usb_ep_queue(out, req, GFP_ATOMIC);
 456                 spin_lock(&port->port_lock);
 457
 458                 if (status) {
 459                         pr_debug("%s: %s %s err %d\n",
 460                                         __func__, "queue", out->name, status);
 461                         list_add(&req->list, pool);
 462                         break;
 463                 }
 464                 port->read_started++;
 465
 466                 /* abort immediately after disconnect */
 467                 if (!port->port_usb)
 468                         break;
 469         }
 470         return port->read_started;
 471 }
 472
 473 /*
 474  * RX tasklet takes data out of the RX queue and hands it up to the TTY
 475  * layer until it refuses to take any more data (or is throttled back).
 476  * Then it issues reads for any further data.
 477  *
 478  * If the RX queue becomes full enough that no usb_request is queued,
 479  * the OUT endpoint may begin NAKing as soon as its FIFO fills up.
 480  * So QUEUE_SIZE packets plus however many the FIFO holds (usually two)
 481  * can be buffered before the TTY layer's buffers (currently 64 KB).
 482  */
 483 static void gs_rx_push(unsigned long _port)
 484 {
 485         struct gs_port          *port = (void *)_port;
 486         struct tty_struct       *tty;
 487         struct list_head        *queue = &port->read_queue;
 488         bool                    disconnect = false;
 489         bool                    do_push = false;
 490
 491         /* hand any queued data to the tty */
 492         spin_lock_irq(&port->port_lock);
 493         tty = port->port.tty;
 494         while (!list_empty(queue)) {
 495                 struct usb_request      *req;
 496
 497                 req = list_first_entry(queue, struct usb_request, list);
 498
 499                 /* leave data queued if tty was rx throttled */
 500                 if (tty && test_bit(TTY_THROTTLED, &tty->flags))
 501                         break;
 502
 503                 switch (req->status) {
 504                 case -ESHUTDOWN:
 505                         disconnect = true;
 506                         pr_vdebug(PREFIX "%d: shutdown\n", port->port_num);
 507                         break;
 508
 509                 default:
 510                         /* presumably a transient fault */
 511                         pr_warning(PREFIX "%d: unexpected RX status %d\n",
 512                                         port->port_num, req->status);
 513                         /* FALLTHROUGH */
 514                 case 0:
 515                         /* normal completion */
 516                         break;
 517                 }
 518
 519                 /* push data to (open) tty */
 520                 if (req->actual) {
 521                         char            *packet = req->buf;
 522                         unsigned        size = req->actual;
 523                         unsigned        n;
 524                         int             count;
 525
 526                         /* we may have pushed part of this packet already... */
 527                         n = port->n_read;
 528                         if (n) {
 529                                 packet += n;
 530                                 size -= n;
 531                         }
 532
 533                         count = tty_insert_flip_string(&port->port, packet,
 534                                         size);
 535                         if (count)
 536                                 do_push = true;
 537                         if (count != size) {
 538                                 /* stop pushing; TTY layer can't handle more */
 539                                 port->n_read += count;
 540                                 pr_vdebug(PREFIX "%d: rx block %d/%d\n",
 541                                                 port->port_num,
 542                                                 count, req->actual);
 543                                 break;
 544                         }
 545                         port->n_read = 0;
 546                 }
 547
 548                 list_move(&req->list, &port->read_pool);
 549                 port->read_started--;
 550         }
 551
 552         /* Push from tty to ldisc; this is handled by a workqueue,
 553          * so we won't get callbacks and can hold port_lock
 554          */
 555         if (do_push)
 556                 tty_flip_buffer_push(&port->port);
 557
 558
 559         /* We want our data queue to become empty ASAP, keeping data
 560          * in the tty and ldisc (not here).  If we couldn't push any
 561          * this time around, there may be trouble unless there's an
 562          * implicit tty_unthrottle() call on its way...
 563          *
 564          * REVISIT we should probably add a timer to keep the tasklet
 565          * from starving ... but it's not clear that case ever happens.
 566          */
 567         if (!list_empty(queue) && tty) {
 568                 if (!test_bit(TTY_THROTTLED, &tty->flags)) {
 569                         if (do_push)
 570                                 tasklet_schedule(&port->push);
 571                         else
 572                                 pr_warning(PREFIX "%d: RX not scheduled?\n",
 573                                         port->port_num);
 574                 }
 575         }
 576
 577         /* If we're still connected, refill the USB RX queue. */
 578         if (!disconnect && port->port_usb)
 579                 gs_start_rx(port);
 580
 581         spin_unlock_irq(&port->port_lock);
 582 }
 583
 584 static void gs_read_complete(struct usb_ep *ep, struct usb_request *req)
 585 {
 586         struct gs_port  *port = ep->driver_data;
 587
 588         /* Queue all received data until the tty layer is ready for it. */
 589         spin_lock(&port->port_lock);
 590         list_add_tail(&req->list, &port->read_queue);
 591         tasklet_schedule(&port->push);
 592         spin_unlock(&port->port_lock);
 593 }
 594
 595 static void gs_write_complete(struct usb_ep *ep, struct usb_request *req)
 596 {
 597         struct gs_port  *port = ep->driver_data;
 598
 599         spin_lock(&port->port_lock);
 600         list_add(&req->list, &port->write_pool);
 601         port->write_started--;
 602
 603         switch (req->status) {
 604         default:
 605                 /* presumably a transient fault */
 606                 pr_warning("%s: unexpected %s status %d\n",
 607                                 __func__, ep->name, req->status);
 608                 /* FALL THROUGH */
 609         case 0:
 610                 /* normal completion */
 611                 gs_start_tx(port);
 612                 break;
 613
 614         case -ESHUTDOWN:
 615                 /* disconnect */
 616                 pr_vdebug("%s: %s shutdown\n", __func__, ep->name);
 617                 break;
 618         }
 619
 620         spin_unlock(&port->port_lock);
 621 }
 622
 623 static void gs_free_requests(struct usb_ep *ep, struct list_head *head,
 624                                                          int *allocated)
 625 {
 626         struct usb_request      *req;
 627
 628         while (!list_empty(head)) {
 629                 req = list_entry(head->next, struct usb_request, list);
 630                 list_del(&req->list);
 631                 gs_free_req(ep, req);
 632                 if (allocated)
 633                         (*allocated)--;
 634         }
 635 }
 636
 637 static int gs_alloc_requests(struct usb_ep *ep, struct list_head *head,
 638                 void (*fn)(struct usb_ep *, struct usb_request *),
 639                 int *allocated)
 640 {
 641         int                     i;
 642         struct usb_request      *req;
 643         int n = allocated ? QUEUE_SIZE - *allocated : QUEUE_SIZE;
 644
 645         /* Pre-allocate up to QUEUE_SIZE transfers, but if we can't
 646          * do quite that many this time, don't fail ... we just won't
 647          * be as speedy as we might otherwise be.
 648          */
 649         for (i = 0; i < n; i++) {
 650                 req = gs_alloc_req(ep, ep->maxpacket, GFP_ATOMIC);
 651                 if (!req)
 652                         return list_empty(head) ? -ENOMEM : 0;
 653                 req->complete = fn;
 654                 list_add_tail(&req->list, head);
 655                 if (allocated)
 656                         (*allocated)++;
 657         }
 658         return 0;
 659 }
 660
 661 /**
 662  * gs_start_io - start USB I/O streams
 663  * @dev: encapsulates endpoints to use
 664  * Context: holding port_lock; port_tty and port_usb are non-null
 665  *
 666  * We only start I/O when something is connected to both sides of
 667  * this port.  If nothing is listening on the host side, we may
 668  * be pointlessly filling up our TX buffers and FIFO.
 669  */
 670 static int gs_start_io(struct gs_port *port)
 671 {
 672         struct list_head        *head = &port->read_pool;
 673         struct usb_ep           *ep = port->port_usb->out;
 674         int                     status;
 675         unsigned                started;
 676
 677         /* Allocate RX and TX I/O buffers.  We can't easily do this much
 678          * earlier (with GFP_KERNEL) because the requests are coupled to
 679          * endpoints, as are the packet sizes we'll be using.  Different
 680          * configurations may use different endpoints with a given port;
 681          * and high speed vs full speed changes packet sizes too.
 682          */
 683         status = gs_alloc_requests(ep, head, gs_read_complete,
 684                 &port->read_allocated);
 685         if (status)
 686                 return status;
 687
 688         status = gs_alloc_requests(port->port_usb->in, &port->write_pool,
 689                         gs_write_complete, &port->write_allocated);
 690         if (status) {
 691                 gs_free_requests(ep, head, &port->read_allocated);
 692                 return status;
 693         }
 694
 695         /* queue read requests */
 696         port->n_read = 0;
 697         started = gs_start_rx(port);
 698
 699         /* unblock any pending writes into our circular buffer */
 700         if (started) {
 701                 tty_wakeup(port->port.tty);
 702         } else {
 703                 gs_free_requests(ep, head, &port->read_allocated);
 704                 gs_free_requests(port->port_usb->in, &port->write_pool,
 705                         &port->write_allocated);
 706                 status = -EIO;
 707         }
 708
 709         return status;
 710 }
 711
 712 /*-------------------------------------------------------------------------*/
 713
 714 /* TTY Driver */
 715
 716 /*
 717  * gs_open sets up the link between a gs_port and its associated TTY.
 718  * That link is broken *only* by TTY close(), and all driver methods
 719  * know that.
 720  */
 721 static int gs_open(struct tty_struct *tty, struct file *file)
 722 {
 723         int             port_num = tty->index;
 724         struct gs_port  *port;
 725         int             status;
 726
 727         do {
 728                 mutex_lock(&ports[port_num].lock);
 729                 port = ports[port_num].port;
 730                 if (!port)
 731                         status = -ENODEV;
 732                 else {
 733                         spin_lock_irq(&port->port_lock);
 734
 735                         /* already open?  Great. */
 736                         if (port->port.count) {
 737                                 status = 0;
 738                                 port->port.count++;
 739
 740                         /* currently opening/closing? wait ... */
 741                         } else if (port->openclose) {
 742                                 status = -EBUSY;
 743
 744                         /* ... else we do the work */
 745                         } else {
 746                                 status = -EAGAIN;
 747                                 port->openclose = true;
 748                         }
 749                         spin_unlock_irq(&port->port_lock);
 750                 }
 751                 mutex_unlock(&ports[port_num].lock);
 752
 753                 switch (status) {
 754                 default:
 755                         /* fully handled */
 756                         return status;
 757                 case -EAGAIN:
 758                         /* must do the work */
 759                         break;
 760                 case -EBUSY:
 761                         /* wait for EAGAIN task to finish */
 762                         msleep(1);
 763                         /* REVISIT could have a waitchannel here, if
 764                          * concurrent open performance is important
 765                          */
 766                         break;
 767                 }
 768         } while (status != -EAGAIN);
 769
 770         /* Do the "real open" */
 771         spin_lock_irq(&port->port_lock);
 772
 773         /* allocate circular buffer on first open */
 774         if (port->port_write_buf.buf_buf == NULL) {
 775
 776                 spin_unlock_irq(&port->port_lock);
 777                 status = gs_buf_alloc(&port->port_write_buf, WRITE_BUF_SIZE);
 778                 spin_lock_irq(&port->port_lock);
 779
 780                 if (status) {
 781                         pr_debug("gs_open: ttyGS%d (%p,%p) no buffer\n",
 782                                 port->port_num, tty, file);
 783                         port->openclose = false;
 784                         goto exit_unlock_port;
 785                 }
 786         }
 787
 788         /* REVISIT if REMOVED (ports[].port NULL), abort the open
 789          * to let rmmod work faster (but this way isn't wrong).
 790          */
 791
 792         /* REVISIT maybe wait for "carrier detect" */
 793
 794         tty->driver_data = port;
 795         port->port.tty = tty;
 796
 797         port->port.count = 1;
 798         port->openclose = false;
 799
 800         /* if connected, start the I/O stream */
 801         if (port->port_usb) {
 802                 struct gserial  *gser = port->port_usb;
 803
 804                 pr_debug("gs_open: start ttyGS%d\n", port->port_num);
 805                 gs_start_io(port);
 806
 807                 if (gser->connect)
 808                         gser->connect(gser);
 809         }
 810
 811         pr_debug("gs_open: ttyGS%d (%p,%p)\n", port->port_num, tty, file);
 812
 813         status = 0;
 814
 815 exit_unlock_port:
 816         spin_unlock_irq(&port->port_lock);
 817         return status;
 818 }
 819
 820 static int gs_writes_finished(struct gs_port *p)
 821 {
 822         int cond;
 823
 824         /* return true on disconnect or empty buffer */
 825         spin_lock_irq(&p->port_lock);
 826         cond = (p->port_usb == NULL) || !gs_buf_data_avail(&p->port_write_buf);
 827         spin_unlock_irq(&p->port_lock);
 828
 829         return cond;
 830 }
 831
 832 static void gs_close(struct tty_struct *tty, struct file *file)
 833 {
 834         struct gs_port *port = tty->driver_data;
 835         struct gserial  *gser;
 836
 837         spin_lock_irq(&port->port_lock);
 838
 839         if (port->port.count != 1) {
 840                 if (port->port.count == 0)
 841                         WARN_ON(1);
 842                 else
 843                         --port->port.count;
 844                 goto exit;
 845         }
 846
 847         pr_debug("gs_close: ttyGS%d (%p,%p) ...\n", port->port_num, tty, file);
 848
 849         /* mark port as closing but in use; we can drop port lock
 850          * and sleep if necessary
 851          */
 852         port->openclose = true;
 853         port->port.count = 0;
 854
 855         gser = port->port_usb;
 856         if (gser && gser->disconnect)
 857                 gser->disconnect(gser);
 858
 859         /* wait for circular write buffer to drain, disconnect, or at
 860          * most GS_CLOSE_TIMEOUT seconds; then discard the rest
 861          */
 862         if (gs_buf_data_avail(&port->port_write_buf) > 0 && gser) {
 863                 spin_unlock_irq(&port->port_lock);
 864                 wait_event_interruptible_timeout(port->drain_wait,
 865                                         gs_writes_finished(port),
 866                                         GS_CLOSE_TIMEOUT * HZ);
 867                 spin_lock_irq(&port->port_lock);
 868                 gser = port->port_usb;
 869         }
 870
 871         /* Iff we're disconnected, there can be no I/O in flight so it's
 872          * ok to free the circular buffer; else just scrub it.  And don't
 873          * let the push tasklet fire again until we're re-opened.
 874          */
 875         if (gser == NULL)
 876                 gs_buf_free(&port->port_write_buf);
 877         else
 878                 gs_buf_clear(&port->port_write_buf);
 879
 880         tty->driver_data = NULL;
 881         port->port.tty = NULL;
 882
 883         port->openclose = false;
 884
 885         pr_debug("gs_close: ttyGS%d (%p,%p) done!\n",
 886                         port->port_num, tty, file);
 887
 888         wake_up(&port->port.close_wait);
 889 exit:
 890         spin_unlock_irq(&port->port_lock);
 891 }
 892
 893 static int gs_write(struct tty_struct *tty, const unsigned char *buf, int count)
 894 {
 895         struct gs_port  *port = tty->driver_data;
 896         unsigned long   flags;
 897         int             status;
 898
 899         pr_vdebug("gs_write: ttyGS%d (%p) writing %d bytes\n",
 900                         port->port_num, tty, count);
 901
 902         spin_lock_irqsave(&port->port_lock, flags);
 903         if (count)
 904                 count = gs_buf_put(&port->port_write_buf, buf, count);
 905         /* treat count == 0 as flush_chars() */
 906         if (port->port_usb)
 907                 status = gs_start_tx(port);
 908         spin_unlock_irqrestore(&port->port_lock, flags);
 909
 910         return count;
 911 }
 912
 913 static int gs_put_char(struct tty_struct *tty, unsigned char ch)
 914 {
 915         struct gs_port  *port = tty->driver_data;
 916         unsigned long   flags;
 917         int             status;
 918
 919         pr_vdebug("gs_put_char: (%d,%p) char=0x%x, called from %pf\n",
 920                 port->port_num, tty, ch, __builtin_return_address(0));
 921
 922         spin_lock_irqsave(&port->port_lock, flags);
 923         status = gs_buf_put(&port->port_write_buf, &ch, 1);
 924         spin_unlock_irqrestore(&port->port_lock, flags);
 925
 926         return status;
 927 }
 928
 929 static void gs_flush_chars(struct tty_struct *tty)
 930 {
 931         struct gs_port  *port = tty->driver_data;
 932         unsigned long   flags;
 933
 934         pr_vdebug("gs_flush_chars: (%d,%p)\n", port->port_num, tty);
 935
 936         spin_lock_irqsave(&port->port_lock, flags);
 937         if (port->port_usb)
 938                 gs_start_tx(port);
 939         spin_unlock_irqrestore(&port->port_lock, flags);
 940 }
 941
 942 static int gs_write_room(struct tty_struct *tty)
 943 {
 944         struct gs_port  *port = tty->driver_data;
 945         unsigned long   flags;
 946         int             room = 0;
 947
 948         spin_lock_irqsave(&port->port_lock, flags);
 949         if (port->port_usb)
 950                 room = gs_buf_space_avail(&port->port_write_buf);
 951         spin_unlock_irqrestore(&port->port_lock, flags);
 952
 953         pr_vdebug("gs_write_room: (%d,%p) room=%d\n",
 954                 port->port_num, tty, room);
 955
 956         return room;
 957 }
 958
 959 static int gs_chars_in_buffer(struct tty_struct *tty)
 960 {
 961         struct gs_port  *port = tty->driver_data;
 962         unsigned long   flags;
 963         int             chars = 0;
 964
 965         spin_lock_irqsave(&port->port_lock, flags);
 966         chars = gs_buf_data_avail(&port->port_write_buf);
 967         spin_unlock_irqrestore(&port->port_lock, flags);
 968
 969         pr_vdebug("gs_chars_in_buffer: (%d,%p) chars=%d\n",
 970                 port->port_num, tty, chars);
 971
 972         return chars;
 973 }
 974
 975 /* undo side effects of setting TTY_THROTTLED */
 976 static void gs_unthrottle(struct tty_struct *tty)
 977 {
 978         struct gs_port          *port = tty->driver_data;
 979         unsigned long           flags;
 980
 981         spin_lock_irqsave(&port->port_lock, flags);
 982         if (port->port_usb) {
 983                 /* Kickstart read queue processing.  We don't do xon/xoff,
 984                  * rts/cts, or other handshaking with the host, but if the
 985                  * read queue backs up enough we'll be NAKing OUT packets.
 986                  */
 987                 tasklet_schedule(&port->push);
 988                 pr_vdebug(PREFIX "%d: unthrottle\n", port->port_num);
 989         }
 990         spin_unlock_irqrestore(&port->port_lock, flags);
 991 }
 992
 993 static int gs_break_ctl(struct tty_struct *tty, int duration)
 994 {
 995         struct gs_port  *port = tty->driver_data;
 996         int             status = 0;
 997         struct gserial  *gser;
 998
 999         pr_vdebug("gs_break_ctl: ttyGS%d, send break (%d) \n",
1000                         port->port_num, duration);
1001
1002         spin_lock_irq(&port->port_lock);
1003         gser = port->port_usb;
1004         if (gser && gser->send_break)
1005                 status = gser->send_break(gser, duration);
1006         spin_unlock_irq(&port->port_lock);
1007
1008         return status;
1009 }
1010
1011 static const struct tty_operations gs_tty_ops = {
1012         .open =                 gs_open,
1013         .close =                gs_close,
1014         .write =                gs_write,
1015         .put_char =             gs_put_char,
1016         .flush_chars =          gs_flush_chars,
1017         .write_room =           gs_write_room,
1018         .chars_in_buffer =      gs_chars_in_buffer,
1019         .unthrottle =           gs_unthrottle,
1020         .break_ctl =            gs_break_ctl,
1021 };
1022
1023 /*-------------------------------------------------------------------------*/
1024
1025 static struct tty_driver *gs_tty_driver;
1026
1027 static int
1028 gs_port_alloc(unsigned port_num, struct usb_cdc_line_coding *coding)
1029 {
1030         struct gs_port  *port;
1031         int             ret = 0;
1032
1033         mutex_lock(&ports[port_num].lock);
1034         if (ports[port_num].port) {
1035                 ret = -EBUSY;
1036                 goto out;
1037         }
1038
1039         port = kzalloc(sizeof(struct gs_port), GFP_KERNEL);
1040         if (port == NULL) {
1041                 ret = -ENOMEM;
1042                 goto out;
1043         }
1044
1045         tty_port_init(&port->port);
1046         spin_lock_init(&port->port_lock);
1047         init_waitqueue_head(&port->drain_wait);
1048
1049         tasklet_init(&port->push, gs_rx_push, (unsigned long) port);
1050
1051         INIT_LIST_HEAD(&port->read_pool);
1052         INIT_LIST_HEAD(&port->read_queue);
1053         INIT_LIST_HEAD(&port->write_pool);
1054
1055         port->port_num = port_num;
1056         port->port_line_coding = *coding;
1057
1058         ports[port_num].port = port;
1059 out:
1060         mutex_unlock(&ports[port_num].lock);
1061         return ret;
1062 }
1063
1064 static int gs_closed(struct gs_port *port)
1065 {
1066         int cond;
1067
1068         spin_lock_irq(&port->port_lock);
1069         cond = (port->port.count == 0) && !port->openclose;
1070         spin_unlock_irq(&port->port_lock);
1071         return cond;
1072 }
1073
1074 static void gserial_free_port(struct gs_port *port)
1075 {
1076         tasklet_kill(&port->push);
1077         /* wait for old opens to finish */
1078         wait_event(port->port.close_wait, gs_closed(port));
1079         WARN_ON(port->port_usb != NULL);
1080         tty_port_destroy(&port->port);
1081         kfree(port);
1082 }
1083
1084 void gserial_free_line(unsigned char port_num)
1085 {
1086         struct gs_port  *port;
1087
1088         mutex_lock(&ports[port_num].lock);
1089         if (WARN_ON(!ports[port_num].port)) {
1090                 mutex_unlock(&ports[port_num].lock);
1091                 return;
1092         }
1093         port = ports[port_num].port;
1094         ports[port_num].port = NULL;
1095         mutex_unlock(&ports[port_num].lock);
1096
1097         gserial_free_port(port);
1098         tty_unregister_device(gs_tty_driver, port_num);
1099 }
1100 EXPORT_SYMBOL_GPL(gserial_free_line);
1101
1102 int gserial_alloc_line(unsigned char *line_num)
1103 {
1104         struct usb_cdc_line_coding      coding;
1105         struct device                   *tty_dev;
1106         int                             ret;
1107         int                             port_num;
1108
1109         coding.dwDTERate = cpu_to_le32(9600);
1110         coding.bCharFormat = 8;
1111         coding.bParityType = USB_CDC_NO_PARITY;
1112         coding.bDataBits = USB_CDC_1_STOP_BITS;
1113
1114         for (port_num = 0; port_num < MAX_U_SERIAL_PORTS; port_num++) {
1115                 ret = gs_port_alloc(port_num, &coding);
1116                 if (ret == -EBUSY)
1117                         continue;
1118                 if (ret)
1119                         return ret;
1120                 break;
1121         }
1122         if (ret)
1123                 return ret;
1124
1125         /* ... and sysfs class devices, so mdev/udev make /dev/ttyGS* */
1126
1127         tty_dev = tty_port_register_device(&ports[port_num].port->port,
1128                         gs_tty_driver, port_num, NULL);
1129         if (IS_ERR(tty_dev)) {
1130                 struct gs_port  *port;
1131                 pr_err("%s: failed to register tty for port %d, err %ld\n",
1132                                 __func__, port_num, PTR_ERR(tty_dev));
1133
1134                 ret = PTR_ERR(tty_dev);
1135                 port = ports[port_num].port;
1136                 ports[port_num].port = NULL;
1137                 gserial_free_port(port);
1138                 goto err;
1139         }
1140         *line_num = port_num;
1141 err:
1142         return ret;
1143 }
1144 EXPORT_SYMBOL_GPL(gserial_alloc_line);
1145
1146 /**
1147  * gserial_connect - notify TTY I/O glue that USB link is active
1148  * @gser: the function, set up with endpoints and descriptors
1149  * @port_num: which port is active
1150  * Context: any (usually from irq)
1151  *
1152  * This is called activate endpoints and let the TTY layer know that
1153  * the connection is active ... not unlike "carrier detect".  It won't
1154  * necessarily start I/O queues; unless the TTY is held open by any
1155  * task, there would be no point.  However, the endpoints will be
1156  * activated so the USB host can perform I/O, subject to basic USB
1157  * hardware flow control.
1158  *
1159  * Caller needs to have set up the endpoints and USB function in @dev
1160  * before calling this, as well as the appropriate (speed-specific)
1161  * endpoint descriptors, and also have allocate @port_num by calling
1162  * @gserial_alloc_line().
1163  *
1164  * Returns negative errno or zero.
1165  * On success, ep->driver_data will be overwritten.
1166  */
1167 int gserial_connect(struct gserial *gser, u8 port_num)
1168 {
1169         struct gs_port  *port;
1170         unsigned long   flags;
1171         int             status;
1172
1173         if (port_num >= MAX_U_SERIAL_PORTS)
1174                 return -ENXIO;
1175
1176         port = ports[port_num].port;
1177         if (!port) {
1178                 pr_err("serial line %d not allocated.\n", port_num);
1179                 return -EINVAL;
1180         }
1181         if (port->port_usb) {
1182                 pr_err("serial line %d is in use.\n", port_num);
1183                 return -EBUSY;
1184         }
1185
1186         /* activate the endpoints */
1187         status = usb_ep_enable(gser->in);
1188         if (status < 0)
1189                 return status;
1190         gser->in->driver_data = port;
1191
1192         status = usb_ep_enable(gser->out);
1193         if (status < 0)
1194                 goto fail_out;
1195         gser->out->driver_data = port;
1196
1197         /* then tell the tty glue that I/O can work */
1198         spin_lock_irqsave(&port->port_lock, flags);
1199         gser->ioport = port;
1200         port->port_usb = gser;
1201
1202         /* REVISIT unclear how best to handle this state...
1203          * we don't really couple it with the Linux TTY.
1204          */
1205         gser->port_line_coding = port->port_line_coding;
1206
1207         /* REVISIT if waiting on "carrier detect", signal. */
1208
1209         /* if it's already open, start I/O ... and notify the serial
1210          * protocol about open/close status (connect/disconnect).
1211          */
1212         if (port->port.count) {
1213                 pr_debug("gserial_connect: start ttyGS%d\n", port->port_num);
1214                 gs_start_io(port);
1215                 if (gser->connect)
1216                         gser->connect(gser);
1217         } else {
1218                 if (gser->disconnect)
1219                         gser->disconnect(gser);
1220         }
1221
1222         spin_unlock_irqrestore(&port->port_lock, flags);
1223
1224         return status;
1225
1226 fail_out:
1227         usb_ep_disable(gser->in);
1228         gser->in->driver_data = NULL;
1229         return status;
1230 }
1231 EXPORT_SYMBOL_GPL(gserial_connect);
1232 /**
1233  * gserial_disconnect - notify TTY I/O glue that USB link is inactive
1234  * @gser: the function, on which gserial_connect() was called
1235  * Context: any (usually from irq)
1236  *
1237  * This is called to deactivate endpoints and let the TTY layer know
1238  * that the connection went inactive ... not unlike "hangup".
1239  *
1240  * On return, the state is as if gserial_connect() had never been called;
1241  * there is no active USB I/O on these endpoints.
1242  */
1243 void gserial_disconnect(struct gserial *gser)
1244 {
1245         struct gs_port  *port = gser->ioport;
1246         unsigned long   flags;
1247
1248         if (!port)
1249                 return;
1250
1251         /* tell the TTY glue not to do I/O here any more */
1252         spin_lock_irqsave(&port->port_lock, flags);
1253
1254         /* REVISIT as above: how best to track this? */
1255         port->port_line_coding = gser->port_line_coding;
1256
1257         port->port_usb = NULL;
1258         gser->ioport = NULL;
1259         if (port->port.count > 0 || port->openclose) {
1260                 wake_up_interruptible(&port->drain_wait);
1261                 if (port->port.tty)
1262                         tty_hangup(port->port.tty);
1263         }
1264         spin_unlock_irqrestore(&port->port_lock, flags);
1265
1266         /* disable endpoints, aborting down any active I/O */
1267         usb_ep_disable(gser->out);
1268         gser->out->driver_data = NULL;
1269
1270         usb_ep_disable(gser->in);
1271         gser->in->driver_data = NULL;
1272
1273         /* finally, free any unused/unusable I/O buffers */
1274         spin_lock_irqsave(&port->port_lock, flags);
1275         if (port->port.count == 0 && !port->openclose)
1276                 gs_buf_free(&port->port_write_buf);
1277         gs_free_requests(gser->out, &port->read_pool, NULL);
1278         gs_free_requests(gser->out, &port->read_queue, NULL);
1279         gs_free_requests(gser->in, &port->write_pool, NULL);
1280
1281         port->read_allocated = port->read_started =
1282                 port->write_allocated = port->write_started = 0;
1283
1284         spin_unlock_irqrestore(&port->port_lock, flags);
1285 }
1286 EXPORT_SYMBOL_GPL(gserial_disconnect);
1287
1288 static int userial_init(void)
1289 {
1290         unsigned                        i;
1291         int                             status;
1292
1293         gs_tty_driver = alloc_tty_driver(MAX_U_SERIAL_PORTS);
1294         if (!gs_tty_driver)
1295                 return -ENOMEM;
1296
1297         gs_tty_driver->driver_name = "g_serial";
1298         gs_tty_driver->name = PREFIX;
1299         /* uses dynamically assigned dev_t values */
1300
1301         gs_tty_driver->type = TTY_DRIVER_TYPE_SERIAL;
1302         gs_tty_driver->subtype = SERIAL_TYPE_NORMAL;
1303         gs_tty_driver->flags = TTY_DRIVER_REAL_RAW | TTY_DRIVER_DYNAMIC_DEV;
1304         gs_tty_driver->init_termios = tty_std_termios;
1305
1306         /* 9600-8-N-1 ... matches defaults expected by "usbser.sys" on
1307          * MS-Windows.  Otherwise, most of these flags shouldn't affect
1308          * anything unless we were to actually hook up to a serial line.
1309          */
1310         gs_tty_driver->init_termios.c_cflag =
1311                         B9600 | CS8 | CREAD | HUPCL | CLOCAL;
1312         gs_tty_driver->init_termios.c_ispeed = 9600;
1313         gs_tty_driver->init_termios.c_ospeed = 9600;
1314
1315         tty_set_operations(gs_tty_driver, &gs_tty_ops);
1316         for (i = 0; i < MAX_U_SERIAL_PORTS; i++)
1317                 mutex_init(&ports[i].lock);
1318
1319         /* export the driver ... */
1320         status = tty_register_driver(gs_tty_driver);
1321         if (status) {
1322                 pr_err("%s: cannot register, err %d\n",
1323                                 __func__, status);
1324                 goto fail;
1325         }
1326
1327         pr_debug("%s: registered %d ttyGS* device%s\n", __func__,
1328                         MAX_U_SERIAL_PORTS,
1329                         (MAX_U_SERIAL_PORTS == 1) ? "" : "s");
1330
1331         return status;
1332 fail:
1333         put_tty_driver(gs_tty_driver);
1334         gs_tty_driver = NULL;
1335         return status;
1336 }
1337 module_init(userial_init);
1338
1339 static void userial_cleanup(void)
1340 {
1341         tty_unregister_driver(gs_tty_driver);
1342         put_tty_driver(gs_tty_driver);
1343         gs_tty_driver = NULL;
1344 }
1345 module_exit(userial_cleanup);
1346
1347 MODULE_LICENSE("GPL");