arch/x86/kernel/reboot.c

   1 #include <linux/module.h>
   2 #include <linux/reboot.h>
   3 #include <linux/init.h>
   4 #include <linux/pm.h>
   5 #include <linux/efi.h>
   6 #include <acpi/reboot.h>
   7 #include <asm/io.h>
   8 #include <asm/apic.h>
   9 #include <asm/desc.h>
  10 #include <asm/hpet.h>
  11 #include <asm/pgtable.h>
  12 #include <asm/proto.h>
  13 #include <asm/reboot_fixups.h>
  14 #include <asm/reboot.h>
  15 #include <asm/pci_x86.h>
  16 #include <asm/virtext.h>
  17 #include <asm/cpu.h>
  18
  19 #ifdef CONFIG_X86_32
  20 # include <linux/dmi.h>
  21 # include <linux/ctype.h>
  22 # include <linux/mc146818rtc.h>
  23 #else
  24 # include <asm/iommu.h>
  25 #endif
  26
  27 #include <asm/tboot.h>
  28
  29 /*
  30  * Power off function, if any
  31  */
  32 void (*pm_power_off)(void);
  33 EXPORT_SYMBOL(pm_power_off);
  34
  35 static const struct desc_ptr no_idt = {};
  36 static int reboot_mode;
  37 enum reboot_type reboot_type = BOOT_KBD;
  38 int reboot_force;
  39
  40 #if defined(CONFIG_X86_32) && defined(CONFIG_SMP)
  41 static int reboot_cpu = -1;
  42 #endif
  43
  44 /* This is set if we need to go through the 'emergency' path.
  45  * When machine_emergency_restart() is called, we may be on
  46  * an inconsistent state and won't be able to do a clean cleanup
  47  */
  48 static int reboot_emergency;
  49
  50 /* This is set by the PCI code if either type 1 or type 2 PCI is detected */
  51 bool port_cf9_safe = false;
  52
  53 /* reboot=b[ios] | s[mp] | t[riple] | k[bd] | e[fi] [, [w]arm | [c]old] | p[ci]
  54    warm   Don't set the cold reboot flag
  55    cold   Set the cold reboot flag
  56    bios   Reboot by jumping through the BIOS (only for X86_32)
  57    smp    Reboot by executing reset on BSP or other CPU (only for X86_32)
  58    triple Force a triple fault (init)
  59    kbd    Use the keyboard controller. cold reset (default)
  60    acpi   Use the RESET_REG in the FADT
  61    efi    Use efi reset_system runtime service
  62    pci    Use the so-called "PCI reset register", CF9
  63    force  Avoid anything that could hang.
  64  */
  65 static int __init reboot_setup(char *str)
  66 {
  67         for (;;) {
  68                 switch (*str) {
  69                 case 'w':
  70                         reboot_mode = 0x1234;
  71                         break;
  72
  73                 case 'c':
  74                         reboot_mode = 0;
  75                         break;
  76
  77 #ifdef CONFIG_X86_32
  78 #ifdef CONFIG_SMP
  79                 case 's':
  80                         if (isdigit(*(str+1))) {
  81                                 reboot_cpu = (int) (*(str+1) - '0');
  82                                 if (isdigit(*(str+2)))
  83                                         reboot_cpu = reboot_cpu*10 + (int)(*(str+2) - '0');
  84                         }
  85                                 /* we will leave sorting out the final value
  86                                    when we are ready to reboot, since we might not
  87                                    have set up boot_cpu_id or smp_num_cpu */
  88                         break;
  89 #endif /* CONFIG_SMP */
  90
  91                 case 'b':
  92 #endif
  93                 case 'a':
  94                 case 'k':
  95                 case 't':
  96                 case 'e':
  97                 case 'p':
  98                         reboot_type = *str;
  99                         break;
 100
 101                 case 'f':
 102                         reboot_force = 1;
 103                         break;
 104                 }
 105
 106                 str = strchr(str, ',');
 107                 if (str)
 108                         str++;
 109                 else
 110                         break;
 111         }
 112         return 1;
 113 }
 114
 115 __setup("reboot=", reboot_setup);
 116
 117
 118 #ifdef CONFIG_X86_32
 119 /*
 120  * Reboot options and system auto-detection code provided by
 121  * Dell Inc. so their systems "just work". :-)
 122  */
 123
 124 /*
 125  * Some machines require the "reboot=b"  commandline option,
 126  * this quirk makes that automatic.
 127  */
 128 static int __init set_bios_reboot(const struct dmi_system_id *d)
 129 {
 130         if (reboot_type != BOOT_BIOS) {
 131                 reboot_type = BOOT_BIOS;
 132                 printk(KERN_INFO "%s series board detected. Selecting BIOS-method for reboots.\n", d->ident);
 133         }
 134         return 0;
 135 }
 136
 137 static struct dmi_system_id __initdata reboot_dmi_table[] = {
 138         {       /* Handle problems with rebooting on Dell E520's */
 139                 .callback = set_bios_reboot,
 140                 .ident = "Dell E520",
 141                 .matches = {
 142                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 143                         DMI_MATCH(DMI_PRODUCT_NAME, "Dell DM061"),
 144                 },
 145         },
 146         {       /* Handle problems with rebooting on Dell 1300's */
 147                 .callback = set_bios_reboot,
 148                 .ident = "Dell PowerEdge 1300",
 149                 .matches = {
 150                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Computer Corporation"),
 151                         DMI_MATCH(DMI_PRODUCT_NAME, "PowerEdge 1300/"),
 152                 },
 153         },
 154         {       /* Handle problems with rebooting on Dell 300's */
 155                 .callback = set_bios_reboot,
 156                 .ident = "Dell PowerEdge 300",
 157                 .matches = {
 158                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Computer Corporation"),
 159                         DMI_MATCH(DMI_PRODUCT_NAME, "PowerEdge 300/"),
 160                 },
 161         },
 162         {       /* Handle problems with rebooting on Dell Optiplex 745's SFF*/
 163                 .callback = set_bios_reboot,
 164                 .ident = "Dell OptiPlex 745",
 165                 .matches = {
 166                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 167                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 745"),
 168                 },
 169         },
 170         {       /* Handle problems with rebooting on Dell Optiplex 745's DFF*/
 171                 .callback = set_bios_reboot,
 172                 .ident = "Dell OptiPlex 745",
 173                 .matches = {
 174                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 175                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 745"),
 176                         DMI_MATCH(DMI_BOARD_NAME, "0MM599"),
 177                 },
 178         },
 179         {       /* Handle problems with rebooting on Dell Optiplex 745 with 0KW626 */
 180                 .callback = set_bios_reboot,
 181                 .ident = "Dell OptiPlex 745",
 182                 .matches = {
 183                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 184                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 745"),
 185                         DMI_MATCH(DMI_BOARD_NAME, "0KW626"),
 186                 },
 187         },
 188         {   /* Handle problems with rebooting on Dell Optiplex 330 with 0KP561 */
 189                 .callback = set_bios_reboot,
 190                 .ident = "Dell OptiPlex 330",
 191                 .matches = {
 192                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 193                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 330"),
 194                         DMI_MATCH(DMI_BOARD_NAME, "0KP561"),
 195                 },
 196         },
 197         {   /* Handle problems with rebooting on Dell Optiplex 360 with 0T656F */
 198                 .callback = set_bios_reboot,
 199                 .ident = "Dell OptiPlex 360",
 200                 .matches = {
 201                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 202                         DMI_MATCH(DMI_PRODUCT_NAME, "OptiPlex 360"),
 203                         DMI_MATCH(DMI_BOARD_NAME, "0T656F"),
 204                 },
 205         },
 206         {       /* Handle problems with rebooting on Dell 2400's */
 207                 .callback = set_bios_reboot,
 208                 .ident = "Dell PowerEdge 2400",
 209                 .matches = {
 210                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Computer Corporation"),
 211                         DMI_MATCH(DMI_PRODUCT_NAME, "PowerEdge 2400"),
 212                 },
 213         },
 214         {       /* Handle problems with rebooting on Dell T5400's */
 215                 .callback = set_bios_reboot,
 216                 .ident = "Dell Precision T5400",
 217                 .matches = {
 218                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 219                         DMI_MATCH(DMI_PRODUCT_NAME, "Precision WorkStation T5400"),
 220                 },
 221         },
 222         {       /* Handle problems with rebooting on HP laptops */
 223                 .callback = set_bios_reboot,
 224                 .ident = "HP Compaq Laptop",
 225                 .matches = {
 226                         DMI_MATCH(DMI_SYS_VENDOR, "Hewlett-Packard"),
 227                         DMI_MATCH(DMI_PRODUCT_NAME, "HP Compaq"),
 228                 },
 229         },
 230         {       /* Handle problems with rebooting on Dell XPS710 */
 231                 .callback = set_bios_reboot,
 232                 .ident = "Dell XPS710",
 233                 .matches = {
 234                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 235                         DMI_MATCH(DMI_PRODUCT_NAME, "Dell XPS710"),
 236                 },
 237         },
 238         {       /* Handle problems with rebooting on Dell DXP061 */
 239                 .callback = set_bios_reboot,
 240                 .ident = "Dell DXP061",
 241                 .matches = {
 242                         DMI_MATCH(DMI_SYS_VENDOR, "Dell Inc."),
 243                         DMI_MATCH(DMI_PRODUCT_NAME, "Dell DXP061"),
 244                 },
 245         },
 246         {       /* Handle problems with rebooting on Sony VGN-Z540N */
 247                 .callback = set_bios_reboot,
 248                 .ident = "Sony VGN-Z540N",
 249                 .matches = {
 250                         DMI_MATCH(DMI_SYS_VENDOR, "Sony Corporation"),
 251                         DMI_MATCH(DMI_PRODUCT_NAME, "VGN-Z540N"),
 252                 },
 253         },
 254         { }
 255 };
 256
 257 static int __init reboot_init(void)
 258 {
 259         dmi_check_system(reboot_dmi_table);
 260         return 0;
 261 }
 262 core_initcall(reboot_init);
 263
 264 /* The following code and data reboots the machine by switching to real
 265    mode and jumping to the BIOS reset entry point, as if the CPU has
 266    really been reset.  The previous version asked the keyboard
 267    controller to pulse the CPU reset line, which is more thorough, but
 268    doesn't work with at least one type of 486 motherboard.  It is easy
 269    to stop this code working; hence the copious comments. */
 270 static const unsigned long long
 271 real_mode_gdt_entries [3] =
 272 {
 273         0x0000000000000000ULL,  /* Null descriptor */
 274         0x00009b000000ffffULL,  /* 16-bit real-mode 64k code at 0x00000000 */
 275         0x000093000100ffffULL   /* 16-bit real-mode 64k data at 0x00000100 */
 276 };
 277
 278 static const struct desc_ptr
 279 real_mode_gdt = { sizeof (real_mode_gdt_entries) - 1, (long)real_mode_gdt_entries },
 280 real_mode_idt = { 0x3ff, 0 };
 281
 282 /* This is 16-bit protected mode code to disable paging and the cache,
 283    switch to real mode and jump to the BIOS reset code.
 284
 285    The instruction that switches to real mode by writing to CR0 must be
 286    followed immediately by a far jump instruction, which set CS to a
 287    valid value for real mode, and flushes the prefetch queue to avoid
 288    running instructions that have already been decoded in protected
 289    mode.
 290
 291    Clears all the flags except ET, especially PG (paging), PE
 292    (protected-mode enable) and TS (task switch for coprocessor state
 293    save).  Flushes the TLB after paging has been disabled.  Sets CD and
 294    NW, to disable the cache on a 486, and invalidates the cache.  This
 295    is more like the state of a 486 after reset.  I don't know if
 296    something else should be done for other chips.
 297
 298    More could be done here to set up the registers as if a CPU reset had
 299    occurred; hopefully real BIOSs don't assume much. */
 300 static const unsigned char real_mode_switch [] =
 301 {
 302         0x66, 0x0f, 0x20, 0xc0,                 /*    movl  %cr0,%eax        */
 303         0x66, 0x83, 0xe0, 0x11,                 /*    andl  $0x00000011,%eax */
 304         0x66, 0x0d, 0x00, 0x00, 0x00, 0x60,     /*    orl   $0x60000000,%eax */
 305         0x66, 0x0f, 0x22, 0xc0,                 /*    movl  %eax,%cr0        */
 306         0x66, 0x0f, 0x22, 0xd8,                 /*    movl  %eax,%cr3        */
 307         0x66, 0x0f, 0x20, 0xc3,                 /*    movl  %cr0,%ebx        */
 308         0x66, 0x81, 0xe3, 0x00, 0x00, 0x00, 0x60,       /*    andl  $0x60000000,%ebx */
 309         0x74, 0x02,                             /*    jz    f                */
 310         0x0f, 0x09,                             /*    wbinvd                 */
 311         0x24, 0x10,                             /* f: andb  $0x10,al         */
 312         0x66, 0x0f, 0x22, 0xc0                  /*    movl  %eax,%cr0        */
 313 };
 314 static const unsigned char jump_to_bios [] =
 315 {
 316         0xea, 0x00, 0x00, 0xff, 0xff            /*    ljmp  $0xffff,$0x0000  */
 317 };
 318
 319 /*
 320  * Switch to real mode and then execute the code
 321  * specified by the code and length parameters.
 322  * We assume that length will aways be less that 100!
 323  */
 324 void machine_real_restart(const unsigned char *code, int length)
 325 {
 326         local_irq_disable();
 327
 328         /* Write zero to CMOS register number 0x0f, which the BIOS POST
 329            routine will recognize as telling it to do a proper reboot.  (Well
 330            that's what this book in front of me says -- it may only apply to
 331            the Phoenix BIOS though, it's not clear).  At the same time,
 332            disable NMIs by setting the top bit in the CMOS address register,
 333            as we're about to do peculiar things to the CPU.  I'm not sure if
 334            `outb_p' is needed instead of just `outb'.  Use it to be on the
 335            safe side.  (Yes, CMOS_WRITE does outb_p's. -  Paul G.)
 336          */
 337         spin_lock(&rtc_lock);
 338         CMOS_WRITE(0x00, 0x8f);
 339         spin_unlock(&rtc_lock);
 340
 341         /* Remap the kernel at virtual address zero, as well as offset zero
 342            from the kernel segment.  This assumes the kernel segment starts at
 343            virtual address PAGE_OFFSET. */
 344         memcpy(swapper_pg_dir, swapper_pg_dir + KERNEL_PGD_BOUNDARY,
 345                 sizeof(swapper_pg_dir [0]) * KERNEL_PGD_PTRS);
 346
 347         /*
 348          * Use `swapper_pg_dir' as our page directory.
 349          */
 350         load_cr3(swapper_pg_dir);
 351
 352         /* Write 0x1234 to absolute memory location 0x472.  The BIOS reads
 353            this on booting to tell it to "Bypass memory test (also warm
 354            boot)".  This seems like a fairly standard thing that gets set by
 355            REBOOT.COM programs, and the previous reset routine did this
 356            too. */
 357         *((unsigned short *)0x472) = reboot_mode;
 358
 359         /* For the switch to real mode, copy some code to low memory.  It has
 360            to be in the first 64k because it is running in 16-bit mode, and it
 361            has to have the same physical and virtual address, because it turns
 362            off paging.  Copy it near the end of the first page, out of the way
 363            of BIOS variables. */
 364         memcpy((void *)(0x1000 - sizeof(real_mode_switch) - 100),
 365                 real_mode_switch, sizeof (real_mode_switch));
 366         memcpy((void *)(0x1000 - 100), code, length);
 367
 368         /* Set up the IDT for real mode. */
 369         load_idt(&real_mode_idt);
 370
 371         /* Set up a GDT from which we can load segment descriptors for real
 372            mode.  The GDT is not used in real mode; it is just needed here to
 373            prepare the descriptors. */
 374         load_gdt(&real_mode_gdt);
 375
 376         /* Load the data segment registers, and thus the descriptors ready for
 377            real mode.  The base address of each segment is 0x100, 16 times the
 378            selector value being loaded here.  This is so that the segment
 379            registers don't have to be reloaded after switching to real mode:
 380            the values are consistent for real mode operation already. */
 381         __asm__ __volatile__ ("movl $0x0010,%%eax\n"
 382                                 "\tmovl %%eax,%%ds\n"
 383                                 "\tmovl %%eax,%%es\n"
 384                                 "\tmovl %%eax,%%fs\n"
 385                                 "\tmovl %%eax,%%gs\n"
 386                                 "\tmovl %%eax,%%ss" : : : "eax");
 387
 388         /* Jump to the 16-bit code that we copied earlier.  It disables paging
 389            and the cache, switches to real mode, and jumps to the BIOS reset
 390            entry point. */
 391         __asm__ __volatile__ ("ljmp $0x0008,%0"
 392                                 :
 393                                 : "i" ((void *)(0x1000 - sizeof (real_mode_switch) - 100)));
 394 }
 395 #ifdef CONFIG_APM_MODULE
 396 EXPORT_SYMBOL(machine_real_restart);
 397 #endif
 398
 399 #endif /* CONFIG_X86_32 */
 400
 401 static inline void kb_wait(void)
 402 {
 403         int i;
 404
 405         for (i = 0; i < 0x10000; i++) {
 406                 if ((inb(0x64) & 0x02) == 0)
 407                         break;
 408                 udelay(2);
 409         }
 410 }
 411
 412 static void vmxoff_nmi(int cpu, struct die_args *args)
 413 {
 414         cpu_emergency_vmxoff();
 415 }
 416
 417 /* Use NMIs as IPIs to tell all CPUs to disable virtualization
 418  */
 419 static void emergency_vmx_disable_all(void)
 420 {
 421         /* Just make sure we won't change CPUs while doing this */
 422         local_irq_disable();
 423
 424         /* We need to disable VMX on all CPUs before rebooting, otherwise
 425          * we risk hanging up the machine, because the CPU ignore INIT
 426          * signals when VMX is enabled.
 427          *
 428          * We can't take any locks and we may be on an inconsistent
 429          * state, so we use NMIs as IPIs to tell the other CPUs to disable
 430          * VMX and halt.
 431          *
 432          * For safety, we will avoid running the nmi_shootdown_cpus()
 433          * stuff unnecessarily, but we don't have a way to check
 434          * if other CPUs have VMX enabled. So we will call it only if the
 435          * CPU we are running on has VMX enabled.
 436          *
 437          * We will miss cases where VMX is not enabled on all CPUs. This
 438          * shouldn't do much harm because KVM always enable VMX on all
 439          * CPUs anyway. But we can miss it on the small window where KVM
 440          * is still enabling VMX.
 441          */
 442         if (cpu_has_vmx() && cpu_vmx_enabled()) {
 443                 /* Disable VMX on this CPU.
 444                  */
 445                 cpu_vmxoff();
 446
 447                 /* Halt and disable VMX on the other CPUs */
 448                 nmi_shootdown_cpus(vmxoff_nmi);
 449
 450         }
 451 }
 452
 453
 454 void __attribute__((weak)) mach_reboot_fixups(void)
 455 {
 456 }
 457
 458 static void native_machine_emergency_restart(void)
 459 {
 460         int i;
 461
 462         if (reboot_emergency)
 463                 emergency_vmx_disable_all();
 464
 465         tboot_shutdown(TB_SHUTDOWN_REBOOT);
 466
 467         /* Tell the BIOS if we want cold or warm reboot */
 468         *((unsigned short *)__va(0x472)) = reboot_mode;
 469
 470         for (;;) {
 471                 /* Could also try the reset bit in the Hammer NB */
 472                 switch (reboot_type) {
 473                 case BOOT_KBD:
 474                         mach_reboot_fixups(); /* for board specific fixups */
 475
 476                         for (i = 0; i < 10; i++) {
 477                                 kb_wait();
 478                                 udelay(50);
 479                                 outb(0xfe, 0x64); /* pulse reset low */
 480                                 udelay(50);
 481                         }
 482
 483                 case BOOT_TRIPLE:
 484                         load_idt(&no_idt);
 485                         __asm__ __volatile__("int3");
 486
 487                         reboot_type = BOOT_KBD;
 488                         break;
 489
 490 #ifdef CONFIG_X86_32
 491                 case BOOT_BIOS:
 492                         machine_real_restart(jump_to_bios, sizeof(jump_to_bios));
 493
 494                         reboot_type = BOOT_KBD;
 495                         break;
 496 #endif
 497
 498                 case BOOT_ACPI:
 499                         acpi_reboot();
 500                         reboot_type = BOOT_KBD;
 501                         break;
 502
 503                 case BOOT_EFI:
 504                         if (efi_enabled)
 505                                 efi.reset_system(reboot_mode ?
 506                                                  EFI_RESET_WARM :
 507                                                  EFI_RESET_COLD,
 508                                                  EFI_SUCCESS, 0, NULL);
 509                         reboot_type = BOOT_KBD;
 510                         break;
 511
 512                 case BOOT_CF9:
 513                         port_cf9_safe = true;
 514                         /* fall through */
 515
 516                 case BOOT_CF9_COND:
 517                         if (port_cf9_safe) {
 518                                 u8 cf9 = inb(0xcf9) & ~6;
 519                                 outb(cf9|2, 0xcf9); /* Request hard reset */
 520                                 udelay(50);
 521                                 outb(cf9|6, 0xcf9); /* Actually do the reset */
 522                                 udelay(50);
 523                         }
 524                         reboot_type = BOOT_KBD;
 525                         break;
 526                 }
 527         }
 528 }
 529
 530 void native_machine_shutdown(void)
 531 {
 532         /* Stop the cpus and apics */
 533 #ifdef CONFIG_SMP
 534
 535         /* The boot cpu is always logical cpu 0 */
 536         int reboot_cpu_id = 0;
 537
 538 #ifdef CONFIG_X86_32
 539         /* See if there has been given a command line override */
 540         if ((reboot_cpu != -1) && (reboot_cpu < nr_cpu_ids) &&
 541                 cpu_online(reboot_cpu))
 542                 reboot_cpu_id = reboot_cpu;
 543 #endif
 544
 545         /* Make certain the cpu I'm about to reboot on is online */
 546         if (!cpu_online(reboot_cpu_id))
 547                 reboot_cpu_id = smp_processor_id();
 548
 549         /* Make certain I only run on the appropriate processor */
 550         set_cpus_allowed_ptr(current, cpumask_of(reboot_cpu_id));
 551
 552         /* O.K Now that I'm on the appropriate processor,
 553          * stop all of the others.
 554          */
 555         smp_send_stop();
 556 #endif
 557
 558         lapic_shutdown();
 559
 560 #ifdef CONFIG_X86_IO_APIC
 561         disable_IO_APIC();
 562 #endif
 563
 564 #ifdef CONFIG_HPET_TIMER
 565         hpet_disable();
 566 #endif
 567
 568 #ifdef CONFIG_X86_64
 569         pci_iommu_shutdown();
 570 #endif
 571 }
 572
 573 static void __machine_emergency_restart(int emergency)
 574 {
 575         reboot_emergency = emergency;
 576         machine_ops.emergency_restart();
 577 }
 578
 579 static void native_machine_restart(char *__unused)
 580 {
 581         printk("machine restart\n");
 582
 583         if (!reboot_force)
 584                 machine_shutdown();
 585         __machine_emergency_restart(0);
 586 }
 587
 588 static void native_machine_halt(void)
 589 {
 590         /* stop other cpus and apics */
 591         machine_shutdown();
 592
 593         tboot_shutdown(TB_SHUTDOWN_HALT);
 594
 595         /* stop this cpu */
 596         stop_this_cpu(NULL);
 597 }
 598
 599 static void native_machine_power_off(void)
 600 {
 601         if (pm_power_off) {
 602                 if (!reboot_force)
 603                         machine_shutdown();
 604                 pm_power_off();
 605         }
 606         /* a fallback in case there is no PM info available */
 607         tboot_shutdown(TB_SHUTDOWN_HALT);
 608 }
 609
 610 struct machine_ops machine_ops = {
 611         .power_off = native_machine_power_off,
 612         .shutdown = native_machine_shutdown,
 613         .emergency_restart = native_machine_emergency_restart,
 614         .restart = native_machine_restart,
 615         .halt = native_machine_halt,
 616 #ifdef CONFIG_KEXEC
 617         .crash_shutdown = native_machine_crash_shutdown,
 618 #endif
 619 };
 620
 621 void machine_power_off(void)
 622 {
 623         machine_ops.power_off();
 624 }
 625
 626 void machine_shutdown(void)
 627 {
 628         machine_ops.shutdown();
 629 }
 630
 631 void machine_emergency_restart(void)
 632 {
 633         __machine_emergency_restart(1);
 634 }
 635
 636 void machine_restart(char *cmd)
 637 {
 638         machine_ops.restart(cmd);
 639 }
 640
 641 void machine_halt(void)
 642 {
 643         machine_ops.halt();
 644 }
 645
 646 #ifdef CONFIG_KEXEC
 647 void machine_crash_shutdown(struct pt_regs *regs)
 648 {
 649         machine_ops.crash_shutdown(regs);
 650 }
 651 #endif
 652
 653
 654 #if defined(CONFIG_SMP)
 655
 656 /* This keeps a track of which one is crashing cpu. */
 657 static int crashing_cpu;
 658 static nmi_shootdown_cb shootdown_callback;
 659
 660 static atomic_t waiting_for_crash_ipi;
 661
 662 static int crash_nmi_callback(struct notifier_block *self,
 663                         unsigned long val, void *data)
 664 {
 665         int cpu;
 666
 667         if (val != DIE_NMI_IPI)
 668                 return NOTIFY_OK;
 669
 670         cpu = raw_smp_processor_id();
 671
 672         /* Don't do anything if this handler is invoked on crashing cpu.
 673          * Otherwise, system will completely hang. Crashing cpu can get
 674          * an NMI if system was initially booted with nmi_watchdog parameter.
 675          */
 676         if (cpu == crashing_cpu)
 677                 return NOTIFY_STOP;
 678         local_irq_disable();
 679
 680         shootdown_callback(cpu, (struct die_args *)data);
 681
 682         atomic_dec(&waiting_for_crash_ipi);
 683         /* Assume hlt works */
 684         halt();
 685         for (;;)
 686                 cpu_relax();
 687
 688         return 1;
 689 }
 690
 691 static void smp_send_nmi_allbutself(void)
 692 {
 693         apic->send_IPI_allbutself(NMI_VECTOR);
 694 }
 695
 696 static struct notifier_block crash_nmi_nb = {
 697         .notifier_call = crash_nmi_callback,
 698 };
 699
 700 /* Halt all other CPUs, calling the specified function on each of them
 701  *
 702  * This function can be used to halt all other CPUs on crash
 703  * or emergency reboot time. The function passed as parameter
 704  * will be called inside a NMI handler on all CPUs.
 705  */
 706 void nmi_shootdown_cpus(nmi_shootdown_cb callback)
 707 {
 708         unsigned long msecs;
 709         local_irq_disable();
 710
 711         /* Make a note of crashing cpu. Will be used in NMI callback.*/
 712         crashing_cpu = safe_smp_processor_id();
 713
 714         shootdown_callback = callback;
 715
 716         atomic_set(&waiting_for_crash_ipi, num_online_cpus() - 1);
 717         /* Would it be better to replace the trap vector here? */
 718         if (register_die_notifier(&crash_nmi_nb))
 719                 return;         /* return what? */
 720         /* Ensure the new callback function is set before sending
 721          * out the NMI
 722          */
 723         wmb();
 724
 725         smp_send_nmi_allbutself();
 726
 727         msecs = 1000; /* Wait at most a second for the other cpus to stop */
 728         while ((atomic_read(&waiting_for_crash_ipi) > 0) && msecs) {
 729                 mdelay(1);
 730                 msecs--;
 731         }
 732
 733         /* Leave the nmi callback set */
 734 }
 735 #else /* !CONFIG_SMP */
 736 void nmi_shootdown_cpus(nmi_shootdown_cb callback)
 737 {
 738         /* No other CPUs to shoot down */
 739 }
 740 #endif