arch/x86/mm/iomap_32-xen.c

   1 /*
   2  * Copyright © 2008 Ingo Molnar
   3  *
   4  * This program is free software; you can redistribute it and/or modify
   5  * it under the terms of the GNU General Public License as published by
   6  * the Free Software Foundation; either version 2 of the License, or
   7  * (at your option) any later version.
   8  *
   9  * This program is distributed in the hope that it will be useful, but
  10  * WITHOUT ANY WARRANTY; without even the implied warranty of
  11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  12  * General Public License for more details.
  13  *
  14  * You should have received a copy of the GNU General Public License along
  15  * with this program; if not, write to the Free Software Foundation, Inc.,
  16  * 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA.
  17  */
  18
  19 #include <asm/iomap.h>
  20 #include <asm/pat.h>
  21 #include <linux/bitops.h>
  22 #include <linux/module.h>
  23 #include <linux/highmem.h>
  24
  25 static int is_io_mapping_possible(resource_size_t base, unsigned long size)
  26 {
  27 #if !defined(CONFIG_X86_PAE) && defined(CONFIG_PHYS_ADDR_T_64BIT)
  28         /* There is no way to map greater than 1 << 32 address without PAE */
  29         if (base + size > 0x100000000ULL)
  30                 return 0;
  31 #endif
  32         return 1;
  33 }
  34
  35 int iomap_create_wc(resource_size_t base, unsigned long size, pgprot_t *prot)
  36 {
  37         unsigned long flag = _PAGE_CACHE_WC;
  38         int ret;
  39
  40         if (!is_io_mapping_possible(base, size))
  41                 return -EINVAL;
  42
  43         ret = io_reserve_memtype(base, base + size, &flag);
  44         if (ret)
  45                 return ret;
  46
  47         *prot = __pgprot(__PAGE_KERNEL | flag);
  48         return 0;
  49 }
  50 EXPORT_SYMBOL_GPL(iomap_create_wc);
  51
  52 void iomap_free(resource_size_t base, unsigned long size)
  53 {
  54         io_free_memtype(base, base + size);
  55 }
  56 EXPORT_SYMBOL_GPL(iomap_free);
  57
  58 void *kmap_atomic_prot_pfn(unsigned long pfn, pgprot_t prot)
  59 {
  60         unsigned long vaddr;
  61         int idx, type;
  62
  63         pagefault_disable();
  64
  65         type = kmap_atomic_idx_push();
  66         idx = type + KM_TYPE_NR * smp_processor_id();
  67         vaddr = __fix_to_virt(FIX_KMAP_BEGIN + idx);
  68         set_pte_at(&init_mm, vaddr, kmap_pte - idx, pfn_pte(pfn, prot));
  69         /*arch_flush_lazy_mmu_mode();*/
  70
  71         return (void *)vaddr;
  72 }
  73
  74 /*
  75  * Map 'mfn' using protections 'prot'
  76  */
  77 void __iomem *
  78 iomap_atomic_prot_pfn(unsigned long mfn, pgprot_t prot)
  79 {
  80         /*
  81          * For non-PAT systems, promote PAGE_KERNEL_WC to PAGE_KERNEL_UC_MINUS.
  82          * PAGE_KERNEL_WC maps to PWT, which translates to uncached if the
  83          * MTRR is UC or WC.  UC_MINUS gets the real intention, of the
  84          * user, which is "WC if the MTRR is WC, UC if you can't do that."
  85          */
  86         if (!pat_enabled && pgprot_val(prot) == pgprot_val(PAGE_KERNEL_WC))
  87                 prot = PAGE_KERNEL_UC_MINUS;
  88
  89         pgprot_val(prot) |= _PAGE_IOMAP;
  90         return (void __force __iomem *) kmap_atomic_prot_pfn(mfn, prot);
  91 }
  92 EXPORT_SYMBOL_GPL(iomap_atomic_prot_pfn);
  93
  94 void
  95 iounmap_atomic(void __iomem *kvaddr)
  96 {
  97         unsigned long vaddr = (unsigned long) kvaddr & PAGE_MASK;
  98
  99         if (vaddr >= __fix_to_virt(FIX_KMAP_END) &&
 100             vaddr <= __fix_to_virt(FIX_KMAP_BEGIN)) {
 101                 int idx, type;
 102
 103                 type = kmap_atomic_idx();
 104                 idx = type + KM_TYPE_NR * smp_processor_id();
 105
 106 #ifdef CONFIG_DEBUG_HIGHMEM
 107                 WARN_ON_ONCE(vaddr != __fix_to_virt(FIX_KMAP_BEGIN + idx));
 108 #endif
 109                 /*
 110                  * Force other mappings to Oops if they'll try to access this
 111                  * pte without first remap it.  Keeping stale mappings around
 112                  * is a bad idea also, in case the page changes cacheability
 113                  * attributes or becomes a protected page in a hypervisor.
 114                  */
 115                 kpte_clear_flush(kmap_pte-idx, vaddr);
 116                 kmap_atomic_idx_pop();
 117         }
 118
 119         pagefault_enable();
 120 }
 121 EXPORT_SYMBOL_GPL(iounmap_atomic);