arch/x86/kernel/reboot.c

   1 #include <linux/module.h>
   2 #include <linux/reboot.h>
   3 #include <linux/init.h>
   4 #include <linux/pm.h>
   5 #include <linux/efi.h>
   6 #include <linux/dmi.h>
   7 #include <linux/sched.h>
   8 #include <linux/tboot.h>
   9 #include <acpi/reboot.h>
  10 #include <asm/io.h>
  11 #include <asm/apic.h>
  12 #include <asm/desc.h>
  13 #include <asm/hpet.h>
  14 #include <asm/pgtable.h>
  15 #include <asm/proto.h>
  16 #include <asm/reboot_fixups.h>
  17 #include <asm/reboot.h>
  18 #include <asm/pci_x86.h>
  19 #include <asm/virtext.h>
  20 #include <asm/cpu.h>
  21 #include <asm/nmi.h>
  22
  23 #ifdef CONFIG_X86_32
  24 # include <linux/ctype.h>
  25 # include <linux/mc146818rtc.h>
  26 #else
  27 # include <asm/x86_init.h>
  28 #endif
  29
  30 /*
  31  * Power off function, if any
  32  */
  33 void (*pm_power_off)(void);
  34 EXPORT_SYMBOL(pm_power_off);
  35
  36 static const struct desc_ptr no_idt = {};
  37 static int reboot_mode;
  38 enum reboot_type reboot_type = BOOT_KBD;
  39 int reboot_force;
  40
  41 #if defined(CONFIG_X86_32) && defined(CONFIG_SMP)
  42 static int reboot_cpu = -1;
  43 #endif
  44
  45 /* This is set if we need to go through the 'emergency' path.
  46  * When machine_emergency_restart() is called, we may be on
  47  * an inconsistent state and won't be able to do a clean cleanup
  48  */
  49 static int reboot_emergency;
  50
  51 /* This is set by the PCI code if either type 1 or type 2 PCI is detected */
  52 bool port_cf9_safe = false;
  53
  54 /* reboot=b[ios] | s[mp] | t[riple] | k[bd] | e[fi] [, [w]arm | [c]old] | p[ci]
  55    warm   Don't set the cold reboot flag
  56    cold   Set the cold reboot flag
  57    bios   Reboot by jumping through the BIOS (only for X86_32)
  58    smp    Reboot by executing reset on BSP or other CPU (only for X86_32)
  59    triple Force a triple fault (init)
  60    kbd    Use the keyboard controller. cold reset (default)
  61    acpi   Use the RESET_REG in the FADT
  62    efi    Use efi reset_system runtime service
  63    pci    Use the so-called "PCI reset register", CF9
  64    force  Avoid anything that could hang.
  65  */
  66 static int __init reboot_setup(char *str)
  67 {
  68         for (;;) {
  69                 switch (*str) {
  70                 case 'w':
  71                         reboot_mode = 0x1234;
  72                         break;
  73
  74                 case 'c':
  75                         reboot_mode = 0;
  76                         break;
  77
  78 #ifdef CONFIG_X86_32
  79 #ifdef CONFIG_SMP
  80                 case 's':
  81                         if (isdigit(*(str+1))) {
  82                                 reboot_cpu = (int) (*(str+1) - '0');
  83                                 if (isdigit(*(str+2)))
  84                                         reboot_cpu = reboot_cpu*10 + (int)(*(str+2) - '0');
  85                         }
  86                                 /* we will leave sorting out the final value
  87                                    when we are ready to reboot, since we might not
  88                                    have detected BSP APIC ID or smp_num_cpu */
  89                         break;
  90 #endif /* CONFIG_SMP */
  91
  92                 case 'b':
  93 #endif
  94                 case 'a':
  95                 case 'k':
  96                 case 't':
  97                 case 'e':
  98                 case 'p':
  99                         reboot_type = *str;
 100                         break;
 101
 102                 case 'f':
 103                         reboot_force = 1;
 104                         break;
 105                 }
 106
 107                 str = strchr(str, ',');
 108                 if (str)
 109                         str++;
 110                 else
 111                         break;
 112         }
 113         return 1;
 114 }
 115
 116 __setup("reboot=", reboot_setup);
 117
 118
 119 #ifdef CONFIG_X86_32
 120 /*
 121  * Reboot options and system auto-detection code provided by
 122  * Dell Inc. so their systems "just work". :-)
 123  */
 124
 125 /*
 126  * Some machines require the "reboot=b"  commandline option,
 127  * this quirk makes that automatic.
 128  */
 129 static int __init set_bios_reboot(const struct dmi_system_id *d)
 130 {
 131         if (reboot_type != BOOT_BIOS) {
 132                 reboot_type = BOOT_BIOS;
 133                 printk(KERN_INFO "%s series board detected. Selecting BIOS-method for reboots.\n", d->ident);
 134         }
 135         return 0;
 136 }
 137
 138 static struct dmi_system_id __initdata reboot_dmi_table[] = {
 139         {       /* Handle problems with rebooting on Dell E520's */
 140                 .callback = set_bios_reboot,
 141                 .ident = "Dell E520",
 142                 .matches = {
 143                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 144                         DMI_MATCH(DMI_PRODUCT_NAME, "Dell DM061"),
 145                 },
 146         },
 147         {       /* Handle problems with rebooting on Dell 1300's */
 148                 .callback = set_bios_reboot,
 149                 .ident = "Dell PowerEdge 1300",
 150                 .matches = {
 151                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Computer Corporation"),
 152                         DMI_MATCH(DMI_PRODUCT_NAME, "PowerEdge 1300/"),
 153                 },
 154         },
 155         {       /* Handle problems with rebooting on Dell 300's */
 156                 .callback = set_bios_reboot,
 157                 .ident = "Dell PowerEdge 300",
 158                 .matches = {
 159                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Computer Corporation"),
 160                         DMI_MATCH(DMI_PRODUCT_NAME, "PowerEdge 300/"),
 161                 },
 162         },
 163         {       /* Handle problems with rebooting on Dell Optiplex 745's SFF*/
 164                 .callback = set_bios_reboot,
 165                 .ident = "Dell OptiPlex 745",
 166                 .matches = {
 167                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 168                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 745"),
 169                 },
 170         },
 171         {       /* Handle problems with rebooting on Dell Optiplex 745's DFF*/
 172                 .callback = set_bios_reboot,
 173                 .ident = "Dell OptiPlex 745",
 174                 .matches = {
 175                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 176                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 745"),
 177                         DMI_MATCH(DMI_BOARD_NAME, "0MM599"),
 178                 },
 179         },
 180         {       /* Handle problems with rebooting on Dell Optiplex 745 with 0KW626 */
 181                 .callback = set_bios_reboot,
 182                 .ident = "Dell OptiPlex 745",
 183                 .matches = {
 184                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 185                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 745"),
 186                         DMI_MATCH(DMI_BOARD_NAME, "0KW626"),
 187                 },
 188         },
 189         {   /* Handle problems with rebooting on Dell Optiplex 330 with 0KP561 */
 190                 .callback = set_bios_reboot,
 191                 .ident = "Dell OptiPlex 330",
 192                 .matches = {
 193                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 194                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 330"),
 195                         DMI_MATCH(DMI_BOARD_NAME, "0KP561"),
 196                 },
 197         },
 198         {   /* Handle problems with rebooting on Dell Optiplex 360 with 0T656F */
 199                 .callback = set_bios_reboot,
 200                 .ident = "Dell OptiPlex 360",
 201                 .matches = {
 202                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 203                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 360"),
 204                         DMI_MATCH(DMI_BOARD_NAME, "0T656F"),
 205                 },
 206         },
 207         {       /* Handle problems with rebooting on Dell OptiPlex 760 with 0G919G*/
 208                 .callback = set_bios_reboot,
 209                 .ident = "Dell OptiPlex 760",
 210                 .matches = {
 211                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 212                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 760"),
 213                         DMI_MATCH(DMI_BOARD_NAME, "0G919G"),
 214                 },
 215         },
 216         {       /* Handle problems with rebooting on Dell 2400's */
 217                 .callback = set_bios_reboot,
 218                 .ident = "Dell PowerEdge 2400",
 219                 .matches = {
 220                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Computer Corporation"),
 221                         DMI_MATCH(DMI_PRODUCT_NAME, "PowerEdge 2400"),
 222                 },
 223         },
 224         {       /* Handle problems with rebooting on Dell T5400's */
 225                 .callback = set_bios_reboot,
 226                 .ident = "Dell Precision T5400",
 227                 .matches = {
 228                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 229                         DMI_MATCH(DMI_PRODUCT_NAME, "Precision WorkStation T5400"),
 230                 },
 231         },
 232         {       /* Handle problems with rebooting on Dell T7400's */
 233                 .callback = set_bios_reboot,
 234                 .ident = "Dell Precision T7400",
 235                 .matches = {
 236                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 237                         DMI_MATCH(DMI_PRODUCT_NAME, "Precision WorkStation T7400"),
 238                 },
 239         },
 240         {       /* Handle problems with rebooting on HP laptops */
 241                 .callback = set_bios_reboot,
 242                 .ident = "HP Compaq Laptop",
 243                 .matches = {
 244                         DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
 245                         DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq"),
 246                 },
 247         },
 248         {       /* Handle problems with rebooting on Dell XPS710 */
 249                 .callback = set_bios_reboot,
 250                 .ident = "Dell XPS710",
 251                 .matches = {
 252                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 253                         DMI_MATCH(DMI_PRODUCT_NAME, "Dell XPS710"),
 254                 },
 255         },
 256         {       /* Handle problems with rebooting on Dell DXP061 */
 257                 .callback = set_bios_reboot,
 258                 .ident = "Dell DXP061",
 259                 .matches = {
 260                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 261                         DMI_MATCH(DMI_PRODUCT_NAME, "Dell DXP061"),
 262                 },
 263         },
 264         {       /* Handle problems with rebooting on Sony VGN-Z540N */
 265                 .callback = set_bios_reboot,
 266                 .ident = "Sony VGN-Z540N",
 267                 .matches = {
 268                         DMI_MATCH(DMI_SYS_VENDOR, "Sony Corporation"),
 269                         DMI_MATCH(DMI_PRODUCT_NAME, "VGN-Z540N"),
 270                 },
 271         },
 272         {       /* Handle problems with rebooting on CompuLab SBC-FITPC2 */
 273                 .callback = set_bios_reboot,
 274                 .ident = "CompuLab SBC-FITPC2",
 275                 .matches = {
 276                         DMI_MATCH(DMI_SYS_VENDOR, "CompuLab"),
 277                         DMI_MATCH(DMI_PRODUCT_NAME, "SBC-FITPC2"),
 278                 },
 279         },
 280         {       /* Handle problems with rebooting on ASUS P4S800 */
 281                 .callback = set_bios_reboot,
 282                 .ident = "ASUS P4S800",
 283                 .matches = {
 284                         DMI_MATCH(DMI_BOARD_VENDOR, "ASUSTeK Computer INC."),
 285                         DMI_MATCH(DMI_BOARD_NAME, "P4S800"),
 286                 },
 287         },
 288         {       /* Handle problems with rebooting on VersaLogic Menlow boards */
 289                 .callback = set_bios_reboot,
 290                 .ident = "VersaLogic Menlow based board",
 291                 .matches = {
 292                         DMI_MATCH(DMI_BOARD_VENDOR, "VersaLogic Corporation"),
 293                         DMI_MATCH(DMI_BOARD_NAME, "VersaLogic Menlow board"),
 294                 },
 295         },
 296         { }
 297 };
 298
 299 static int __init reboot_init(void)
 300 {
 301         dmi_check_system(reboot_dmi_table);
 302         return 0;
 303 }
 304 core_initcall(reboot_init);
 305
 306 /* The following code and data reboots the machine by switching to real
 307    mode and jumping to the BIOS reset entry point, as if the CPU has
 308    really been reset.  The previous version asked the keyboard
 309    controller to pulse the CPU reset line, which is more thorough, but
 310    doesn't work with at least one type of 486 motherboard.  It is easy
 311    to stop this code working; hence the copious comments. */
 312 static const unsigned long long
 313 real_mode_gdt_entries [3] =
 314 {
 315         0x0000000000000000ULL,  /* Null descriptor */
 316         0x00009b000000ffffULL,  /* 16-bit real-mode 64k code at 0x00000000 */
 317         0x000093000100ffffULL   /* 16-bit real-mode 64k data at 0x00000100 */
 318 };
 319
 320 static const struct desc_ptr
 321 real_mode_gdt = { sizeof (real_mode_gdt_entries) - 1, (long)real_mode_gdt_entries },
 322 real_mode_idt = { 0x3ff, 0 };
 323
 324 /* This is 16-bit protected mode code to disable paging and the cache,
 325    switch to real mode and jump to the BIOS reset code.
 326
 327    The instruction that switches to real mode by writing to CR0 must be
 328    followed immediately by a far jump instruction, which set CS to a
 329    valid value for real mode, and flushes the prefetch queue to avoid
 330    running instructions that have already been decoded in protected
 331    mode.
 332
 333    Clears all the flags except ET, especially PG (paging), PE
 334    (protected-mode enable) and TS (task switch for coprocessor state
 335    save).  Flushes the TLB after paging has been disabled.  Sets CD and
 336    NW, to disable the cache on a 486, and invalidates the cache.  This
 337    is more like the state of a 486 after reset.  I don't know if
 338    something else should be done for other chips.
 339
 340    More could be done here to set up the registers as if a CPU reset had
 341    occurred; hopefully real BIOSs don't assume much. */
 342 static const unsigned char real_mode_switch [] =
 343 {
 344         0x66, 0x0f, 0x20, 0xc0,                 /*    movl  %cr0,%eax        */
 345         0x66, 0x83, 0xe0, 0x11,                 /*    andl  $0x00000011,%eax */
 346         0x66, 0x0d, 0x00, 0x00, 0x00, 0x60,     /*    orl   $0x60000000,%eax */
 347         0x66, 0x0f, 0x22, 0xc0,                 /*    movl  %eax,%cr0        */
 348         0x66, 0x0f, 0x22, 0xd8,                 /*    movl  %eax,%cr3        */
 349         0x66, 0x0f, 0x20, 0xc3,                 /*    movl  %cr0,%ebx        */
 350         0x66, 0x81, 0xe3, 0x00, 0x00, 0x00, 0x60,       /*    andl  $0x60000000,%ebx */
 351         0x74, 0x02,                             /*    jz    f                */
 352         0x0f, 0x09,                             /*    wbinvd                 */
 353         0x24, 0x10,                             /* f: andb  $0x10,al         */
 354         0x66, 0x0f, 0x22, 0xc0                  /*    movl  %eax,%cr0        */
 355 };
 356 static const unsigned char jump_to_bios [] =
 357 {
 358         0xea, 0x00, 0x00, 0xff, 0xff            /*    ljmp  $0xffff,$0x0000  */
 359 };
 360
 361 /*
 362  * Switch to real mode and then execute the code
 363  * specified by the code and length parameters.
 364  * We assume that length will aways be less that 100!
 365  */
 366 void machine_real_restart(const unsigned char *code, int length)
 367 {
 368         local_irq_disable();
 369
 370         /* Write zero to CMOS register number 0x0f, which the BIOS POST
 371            routine will recognize as telling it to do a proper reboot.  (Well
 372            that's what this book in front of me says -- it may only apply to
 373            the Phoenix BIOS though, it's not clear).  At the same time,
 374            disable NMIs by setting the top bit in the CMOS address register,
 375            as we're about to do peculiar things to the CPU.  I'm not sure if
 376            `outb_p' is needed instead of just `outb'.  Use it to be on the
 377            safe side.  (Yes, CMOS_WRITE does outb_p's. -  Paul G.)
 378          */
 379         spin_lock(&rtc_lock);
 380         CMOS_WRITE(0x00, 0x8f);
 381         spin_unlock(&rtc_lock);
 382
 383         /*
 384          * Switch back to the initial page table.
 385          */
 386         load_cr3(initial_page_table);
 387
 388         /* Write 0x1234 to absolute memory location 0x472.  The BIOS reads
 389            this on booting to tell it to "Bypass memory test (also warm
 390            boot)".  This seems like a fairly standard thing that gets set by
 391            REBOOT.COM programs, and the previous reset routine did this
 392            too. */
 393         *((unsigned short *)0x472) = reboot_mode;
 394
 395         /* For the switch to real mode, copy some code to low memory.  It has
 396            to be in the first 64k because it is running in 16-bit mode, and it
 397            has to have the same physical and virtual address, because it turns
 398            off paging.  Copy it near the end of the first page, out of the way
 399            of BIOS variables. */
 400         memcpy((void *)(0x1000 - sizeof(real_mode_switch) - 100),
 401                 real_mode_switch, sizeof (real_mode_switch));
 402         memcpy((void *)(0x1000 - 100), code, length);
 403
 404         /* Set up the IDT for real mode. */
 405         load_idt(&real_mode_idt);
 406
 407         /* Set up a GDT from which we can load segment descriptors for real
 408            mode.  The GDT is not used in real mode; it is just needed here to
 409            prepare the descriptors. */
 410         load_gdt(&real_mode_gdt);
 411
 412         /* Load the data segment registers, and thus the descriptors ready for
 413            real mode.  The base address of each segment is 0x100, 16 times the
 414            selector value being loaded here.  This is so that the segment
 415            registers don't have to be reloaded after switching to real mode:
 416            the values are consistent for real mode operation already. */
 417         __asm__ __volatile__ ("movl $0x0010,%%eax\n"
 418                                 "\tmovl %%eax,%%ds\n"
 419                                 "\tmovl %%eax,%%es\n"
 420                                 "\tmovl %%eax,%%fs\n"
 421                                 "\tmovl %%eax,%%gs\n"
 422                                 "\tmovl %%eax,%%ss" : : : "eax");
 423
 424         /* Jump to the 16-bit code that we copied earlier.  It disables paging
 425            and the cache, switches to real mode, and jumps to the BIOS reset
 426            entry point. */
 427         __asm__ __volatile__ ("ljmp $0x0008,%0"
 428                                 :
 429                                 : "i" ((void *)(0x1000 - sizeof (real_mode_switch) - 100)));
 430 }
 431 #ifdef CONFIG_APM_MODULE
 432 EXPORT_SYMBOL(machine_real_restart);
 433 #endif
 434
 435 #endif /* CONFIG_X86_32 */
 436
 437 /*
 438  * Some Apple MacBook and MacBookPro's needs reboot=p to be able to reboot
 439  */
 440 static int __init set_pci_reboot(const struct dmi_system_id *d)
 441 {
 442         if (reboot_type != BOOT_CF9) {
 443                 reboot_type = BOOT_CF9;
 444                 printk(KERN_INFO "%s series board detected. "
 445                        "Selecting PCI-method for reboots.\n", d->ident);
 446         }
 447         return 0;
 448 }
 449
 450 static struct dmi_system_id __initdata pci_reboot_dmi_table[] = {
 451         {       /* Handle problems with rebooting on Apple MacBook5 */
 452                 .callback = set_pci_reboot,
 453                 .ident = "Apple MacBook5",
 454                 .matches = {
 455                         DMI_MATCH(DMI_SYS_VENDOR, "Apple Inc."),
 456                         DMI_MATCH(DMI_PRODUCT_NAME, "MacBook5"),
 457                 },
 458         },
 459         {       /* Handle problems with rebooting on Apple MacBookPro5 */
 460                 .callback = set_pci_reboot,
 461                 .ident = "Apple MacBookPro5",
 462                 .matches = {
 463                         DMI_MATCH(DMI_SYS_VENDOR, "Apple Inc."),
 464                         DMI_MATCH(DMI_PRODUCT_NAME, "MacBookPro5"),
 465                 },
 466         },
 467         {       /* Handle problems with rebooting on Apple Macmini3,1 */
 468                 .callback = set_pci_reboot,
 469                 .ident = "Apple Macmini3,1",
 470                 .matches = {
 471                         DMI_MATCH(DMI_SYS_VENDOR, "Apple Inc."),
 472                         DMI_MATCH(DMI_PRODUCT_NAME, "Macmini3,1"),
 473                 },
 474         },
 475         {       /* Handle problems with rebooting on the iMac9,1. */
 476                 .callback = set_pci_reboot,
 477                 .ident = "Apple iMac9,1",
 478                 .matches = {
 479                         DMI_MATCH(DMI_SYS_VENDOR, "Apple Inc."),
 480                         DMI_MATCH(DMI_PRODUCT_NAME, "iMac9,1"),
 481                 },
 482         },
 483         {       /* Handle problems with rebooting on the Latitude E6220. */
 484                 .callback = set_pci_reboot,
 485                 .ident = "Dell Latitude E6220",
 486                 .matches = {
 487                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 488                         DMI_MATCH(DMI_PRODUCT_NAME, "Latitude E6220"),
 489                 },
 490         },
 491         {       /* Handle problems with rebooting on the Latitude E6520. */
 492                 .callback = set_pci_reboot,
 493                 .ident = "Dell Latitude E6520",
 494                 .matches = {
 495                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 496                         DMI_MATCH(DMI_PRODUCT_NAME, "Latitude E6520"),
 497                 },
 498         },
 499         { }
 500 };
 501
 502 static int __init pci_reboot_init(void)
 503 {
 504         dmi_check_system(pci_reboot_dmi_table);
 505         return 0;
 506 }
 507 core_initcall(pci_reboot_init);
 508
 509 static inline void kb_wait(void)
 510 {
 511         int i;
 512
 513         for (i = 0; i < 0x10000; i++) {
 514                 if ((inb(0x64) & 0x02) == 0)
 515                         break;
 516                 udelay(2);
 517         }
 518 }
 519
 520 static void vmxoff_nmi(int cpu, struct die_args *args)
 521 {
 522         cpu_emergency_vmxoff();
 523 }
 524
 525 /* Use NMIs as IPIs to tell all CPUs to disable virtualization
 526  */
 527 static void emergency_vmx_disable_all(void)
 528 {
 529         /* Just make sure we won't change CPUs while doing this */
 530         local_irq_disable();
 531
 532         /* We need to disable VMX on all CPUs before rebooting, otherwise
 533          * we risk hanging up the machine, because the CPU ignore INIT
 534          * signals when VMX is enabled.
 535          *
 536          * We can't take any locks and we may be on an inconsistent
 537          * state, so we use NMIs as IPIs to tell the other CPUs to disable
 538          * VMX and halt.
 539          *
 540          * For safety, we will avoid running the nmi_shootdown_cpus()
 541          * stuff unnecessarily, but we don't have a way to check
 542          * if other CPUs have VMX enabled. So we will call it only if the
 543          * CPU we are running on has VMX enabled.
 544          *
 545          * We will miss cases where VMX is not enabled on all CPUs. This
 546          * shouldn't do much harm because KVM always enable VMX on all
 547          * CPUs anyway. But we can miss it on the small window where KVM
 548          * is still enabling VMX.
 549          */
 550         if (cpu_has_vmx() && cpu_vmx_enabled()) {
 551                 /* Disable VMX on this CPU.
 552                  */
 553                 cpu_vmxoff();
 554
 555                 /* Halt and disable VMX on the other CPUs */
 556                 nmi_shootdown_cpus(vmxoff_nmi);
 557
 558         }
 559 }
 560
 561
 562 void __attribute__((weak)) mach_reboot_fixups(void)
 563 {
 564 }
 565
 566 static void native_machine_emergency_restart(void)
 567 {
 568         int i;
 569
 570         if (reboot_emergency)
 571                 emergency_vmx_disable_all();
 572
 573         tboot_shutdown(TB_SHUTDOWN_REBOOT);
 574
 575         /* Tell the BIOS if we want cold or warm reboot */
 576         *((unsigned short *)__va(0x472)) = reboot_mode;
 577
 578         for (;;) {
 579                 /* Could also try the reset bit in the Hammer NB */
 580                 switch (reboot_type) {
 581                 case BOOT_KBD:
 582                         mach_reboot_fixups(); /* for board specific fixups */
 583
 584                         for (i = 0; i < 10; i++) {
 585                                 kb_wait();
 586                                 udelay(50);
 587                                 outb(0xfe, 0x64); /* pulse reset low */
 588                                 udelay(50);
 589                         }
 590
 591                 case BOOT_TRIPLE:
 592                         load_idt(&no_idt);
 593                         __asm__ __volatile__("int3");
 594
 595                         reboot_type = BOOT_KBD;
 596                         break;
 597
 598 #ifdef CONFIG_X86_32
 599                 case BOOT_BIOS:
 600                         machine_real_restart(jump_to_bios, sizeof(jump_to_bios));
 601
 602                         reboot_type = BOOT_KBD;
 603                         break;
 604 #endif
 605
 606                 case BOOT_ACPI:
 607                         acpi_reboot();
 608                         reboot_type = BOOT_KBD;
 609                         break;
 610
 611                 case BOOT_EFI:
 612                         if (efi_enabled)
 613                                 efi.reset_system(reboot_mode ?
 614                                                  EFI_RESET_WARM :
 615                                                  EFI_RESET_COLD,
 616                                                  EFI_SUCCESS, 0, NULL);
 617                         reboot_type = BOOT_KBD;
 618                         break;
 619
 620                 case BOOT_CF9:
 621                         port_cf9_safe = true;
 622                         /* fall through */
 623
 624                 case BOOT_CF9_COND:
 625                         if (port_cf9_safe) {
 626                                 u8 cf9 = inb(0xcf9) & ~6;
 627                                 outb(cf9|2, 0xcf9); /* Request hard reset */
 628                                 udelay(50);
 629                                 outb(cf9|6, 0xcf9); /* Actually do the reset */
 630                                 udelay(50);
 631                         }
 632                         reboot_type = BOOT_KBD;
 633                         break;
 634                 }
 635         }
 636 }
 637
 638 void native_machine_shutdown(void)
 639 {
 640         /* Stop the cpus and apics */
 641 #ifdef CONFIG_SMP
 642
 643         /* The boot cpu is always logical cpu 0 */
 644         int reboot_cpu_id = 0;
 645
 646 #ifdef CONFIG_X86_32
 647         /* See if there has been given a command line override */
 648         if ((reboot_cpu != -1) && (reboot_cpu < nr_cpu_ids) &&
 649                 cpu_online(reboot_cpu))
 650                 reboot_cpu_id = reboot_cpu;
 651 #endif
 652
 653         /* Make certain the cpu I'm about to reboot on is online */
 654         if (!cpu_online(reboot_cpu_id))
 655                 reboot_cpu_id = smp_processor_id();
 656
 657         /* Make certain I only run on the appropriate processor */
 658         set_cpus_allowed_ptr(current, cpumask_of(reboot_cpu_id));
 659
 660         /* O.K Now that I'm on the appropriate processor,
 661          * stop all of the others.
 662          */
 663         stop_other_cpus();
 664 #endif
 665
 666         lapic_shutdown();
 667
 668 #ifdef CONFIG_X86_IO_APIC
 669         disable_IO_APIC();
 670 #endif
 671
 672 #ifdef CONFIG_HPET_TIMER
 673         hpet_disable();
 674 #endif
 675
 676 #ifdef CONFIG_X86_64
 677         x86_platform.iommu_shutdown();
 678 #endif
 679 }
 680
 681 static void __machine_emergency_restart(int emergency)
 682 {
 683         reboot_emergency = emergency;
 684         machine_ops.emergency_restart();
 685 }
 686
 687 static void native_machine_restart(char *__unused)
 688 {
 689         printk("machine restart\n");
 690
 691         if (!reboot_force)
 692                 machine_shutdown();
 693         __machine_emergency_restart(0);
 694 }
 695
 696 static void native_machine_halt(void)
 697 {
 698         /* stop other cpus and apics */
 699         machine_shutdown();
 700
 701         tboot_shutdown(TB_SHUTDOWN_HALT);
 702
 703         /* stop this cpu */
 704         stop_this_cpu(NULL);
 705 }
 706
 707 static void native_machine_power_off(void)
 708 {
 709         if (pm_power_off) {
 710                 if (!reboot_force)
 711                         machine_shutdown();
 712                 pm_power_off();
 713         }
 714         /* a fallback in case there is no PM info available */
 715         tboot_shutdown(TB_SHUTDOWN_HALT);
 716 }
 717
 718 struct machine_ops machine_ops = {
 719         .power_off = native_machine_power_off,
 720         .shutdown = native_machine_shutdown,
 721         .emergency_restart = native_machine_emergency_restart,
 722         .restart = native_machine_restart,
 723         .halt = native_machine_halt,
 724 #ifdef CONFIG_KEXEC
 725         .crash_shutdown = native_machine_crash_shutdown,
 726 #endif
 727 };
 728
 729 void machine_power_off(void)
 730 {
 731         machine_ops.power_off();
 732 }
 733
 734 void machine_shutdown(void)
 735 {
 736         machine_ops.shutdown();
 737 }
 738
 739 void machine_emergency_restart(void)
 740 {
 741         __machine_emergency_restart(1);
 742 }
 743
 744 void machine_restart(char *cmd)
 745 {
 746         machine_ops.restart(cmd);
 747 }
 748
 749 void machine_halt(void)
 750 {
 751         machine_ops.halt();
 752 }
 753
 754 #ifdef CONFIG_KEXEC
 755 void machine_crash_shutdown(struct pt_regs *regs)
 756 {
 757         machine_ops.crash_shutdown(regs);
 758 }
 759 #endif
 760
 761
 762 #if defined(CONFIG_SMP)
 763
 764 /* This keeps a track of which one is crashing cpu. */
 765 static int crashing_cpu;
 766 static nmi_shootdown_cb shootdown_callback;
 767
 768 static atomic_t waiting_for_crash_ipi;
 769
 770 static int crash_nmi_callback(struct notifier_block *self,
 771                         unsigned long val, void *data)
 772 {
 773         int cpu;
 774
 775         if (val != DIE_NMI)
 776                 return NOTIFY_OK;
 777
 778         cpu = raw_smp_processor_id();
 779
 780         /* Don't do anything if this handler is invoked on crashing cpu.
 781          * Otherwise, system will completely hang. Crashing cpu can get
 782          * an NMI if system was initially booted with nmi_watchdog parameter.
 783          */
 784         if (cpu == crashing_cpu)
 785                 return NOTIFY_STOP;
 786         local_irq_disable();
 787
 788         shootdown_callback(cpu, (struct die_args *)data);
 789
 790         atomic_dec(&waiting_for_crash_ipi);
 791         /* Assume hlt works */
 792         halt();
 793         for (;;)
 794                 cpu_relax();
 795
 796         return 1;
 797 }
 798
 799 static void smp_send_nmi_allbutself(void)
 800 {
 801         apic->send_IPI_allbutself(NMI_VECTOR);
 802 }
 803
 804 static struct notifier_block crash_nmi_nb = {
 805         .notifier_call = crash_nmi_callback,
 806         /* we want to be the first one called */
 807         .priority = NMI_LOCAL_HIGH_PRIOR+1,
 808 };
 809
 810 /* Halt all other CPUs, calling the specified function on each of them
 811  *
 812  * This function can be used to halt all other CPUs on crash
 813  * or emergency reboot time. The function passed as parameter
 814  * will be called inside a NMI handler on all CPUs.
 815  */
 816 void nmi_shootdown_cpus(nmi_shootdown_cb callback)
 817 {
 818         unsigned long msecs;
 819         local_irq_disable();
 820
 821         /* Make a note of crashing cpu. Will be used in NMI callback.*/
 822         crashing_cpu = safe_smp_processor_id();
 823
 824         shootdown_callback = callback;
 825
 826         atomic_set(&waiting_for_crash_ipi, num_online_cpus() - 1);
 827         /* Would it be better to replace the trap vector here? */
 828         if (register_die_notifier(&crash_nmi_nb))
 829                 return;         /* return what? */
 830         /* Ensure the new callback function is set before sending
 831          * out the NMI
 832          */
 833         wmb();
 834
 835         smp_send_nmi_allbutself();
 836
 837         msecs = 1000; /* Wait at most a second for the other cpus to stop */
 838         while ((atomic_read(&waiting_for_crash_ipi) > 0) && msecs) {
 839                 mdelay(1);
 840                 msecs--;
 841         }
 842
 843         /* Leave the nmi callback set */
 844 }
 845 #else /* !CONFIG_SMP */
 846 void nmi_shootdown_cpus(nmi_shootdown_cb callback)
 847 {
 848         /* No other CPUs to shoot down */
 849 }
 850 #endif