include/drm/drm_fixed.h

   1 /*
   2  * Copyright 2009 Red Hat Inc.
   3  *
   4  * Permission is hereby granted, free of charge, to any person obtaining a
   5  * copy of this software and associated documentation files (the "Software"),
   6  * to deal in the Software without restriction, including without limitation
   7  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
   8  * and/or sell copies of the Software, and to permit persons to whom the
   9  * Software is furnished to do so, subject to the following conditions:
  10  *
  11  * The above copyright notice and this permission notice shall be included in
  12  * all copies or substantial portions of the Software.
  13  *
  14  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
  15  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
  16  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
  17  * THE COPYRIGHT HOLDER(S) OR AUTHOR(S) BE LIABLE FOR ANY CLAIM, DAMAGES OR
  18  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
  19  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
  20  * OTHER DEALINGS IN THE SOFTWARE.
  21  *
  22  * Authors: Dave Airlie
  23  *          Christian König
  24  */
  25 #ifndef DRM_FIXED_H
  26 #define DRM_FIXED_H
  27
  28 #include <linux/kernel.h>
  29 #include <linux/math64.h>
  30
  31 typedef union dfixed {
  32         u32 full;
  33 } fixed20_12;
  34
  35
  36 #define dfixed_const(A) (u32)(((A) << 12))/*  + ((B + 0.000122)*4096)) */
  37 #define dfixed_const_half(A) (u32)(((A) << 12) + 2048)
  38 #define dfixed_const_666(A) (u32)(((A) << 12) + 2731)
  39 #define dfixed_const_8(A) (u32)(((A) << 12) + 3277)
  40 #define dfixed_mul(A, B) ((u64)((u64)(A).full * (B).full + 2048) >> 12)
  41 #define dfixed_init(A) { .full = dfixed_const((A)) }
  42 #define dfixed_init_half(A) { .full = dfixed_const_half((A)) }
  43 #define dfixed_trunc(A) ((A).full >> 12)
  44 #define dfixed_frac(A) ((A).full & ((1 << 12) - 1))
  45
  46 static inline u32 dfixed_floor(fixed20_12 A)
  47 {
  48         u32 non_frac = dfixed_trunc(A);
  49
  50         return dfixed_const(non_frac);
  51 }
  52
  53 static inline u32 dfixed_ceil(fixed20_12 A)
  54 {
  55         u32 non_frac = dfixed_trunc(A);
  56
  57         if (A.full > dfixed_const(non_frac))
  58                 return dfixed_const(non_frac + 1);
  59         else
  60                 return dfixed_const(non_frac);
  61 }
  62
  63 static inline u32 dfixed_div(fixed20_12 A, fixed20_12 B)
  64 {
  65         u64 tmp = ((u64)A.full << 13);
  66
  67         do_div(tmp, B.full);
  68         tmp += 1;
  69         tmp /= 2;
  70         return lower_32_bits(tmp);
  71 }
  72
  73 #define DRM_FIXED_POINT         32
  74 #define DRM_FIXED_ONE           (1ULL << DRM_FIXED_POINT)
  75 #define DRM_FIXED_DECIMAL_MASK  (DRM_FIXED_ONE - 1)
  76 #define DRM_FIXED_DIGITS_MASK   (~DRM_FIXED_DECIMAL_MASK)
  77 #define DRM_FIXED_EPSILON       1LL
  78 #define DRM_FIXED_ALMOST_ONE    (DRM_FIXED_ONE - DRM_FIXED_EPSILON)
  79
  80 static inline s64 drm_int2fixp(int a)
  81 {
  82         return ((s64)a) << DRM_FIXED_POINT;
  83 }
  84
  85 static inline int drm_fixp2int(s64 a)
  86 {
  87         return ((s64)a) >> DRM_FIXED_POINT;
  88 }
  89
  90 static inline int drm_fixp2int_ceil(s64 a)
  91 {
  92         if (a > 0)
  93                 return drm_fixp2int(a + DRM_FIXED_ALMOST_ONE);
  94         else
  95                 return drm_fixp2int(a - DRM_FIXED_ALMOST_ONE);
  96 }
  97
  98 static inline unsigned drm_fixp_msbset(s64 a)
  99 {
 100         unsigned shift, sign = (a >> 63) & 1;
 101
 102         for (shift = 62; shift > 0; --shift)
 103                 if (((a >> shift) & 1) != sign)
 104                         return shift;
 105
 106         return 0;
 107 }
 108
 109 static inline s64 drm_fixp_mul(s64 a, s64 b)
 110 {
 111         unsigned shift = drm_fixp_msbset(a) + drm_fixp_msbset(b);
 112         s64 result;
 113
 114         if (shift > 61) {
 115                 shift = shift - 61;
 116                 a >>= (shift >> 1) + (shift & 1);
 117                 b >>= shift >> 1;
 118         } else
 119                 shift = 0;
 120
 121         result = a * b;
 122
 123         if (shift > DRM_FIXED_POINT)
 124                 return result << (shift - DRM_FIXED_POINT);
 125
 126         if (shift < DRM_FIXED_POINT)
 127                 return result >> (DRM_FIXED_POINT - shift);
 128
 129         return result;
 130 }
 131
 132 static inline s64 drm_fixp_div(s64 a, s64 b)
 133 {
 134         unsigned shift = 62 - drm_fixp_msbset(a);
 135         s64 result;
 136
 137         a <<= shift;
 138
 139         if (shift < DRM_FIXED_POINT)
 140                 b >>= (DRM_FIXED_POINT - shift);
 141
 142         result = div64_s64(a, b);
 143
 144         if (shift > DRM_FIXED_POINT)
 145                 return result >> (shift - DRM_FIXED_POINT);
 146
 147         return result;
 148 }
 149
 150 static inline s64 drm_fixp_from_fraction(s64 a, s64 b)
 151 {
 152         s64 res;
 153         bool a_neg = a < 0;
 154         bool b_neg = b < 0;
 155         u64 a_abs = a_neg ? -a : a;
 156         u64 b_abs = b_neg ? -b : b;
 157         u64 rem;
 158
 159         /* determine integer part */
 160         u64 res_abs  = div64_u64_rem(a_abs, b_abs, &rem);
 161
 162         /* determine fractional part */
 163         {
 164                 u32 i = DRM_FIXED_POINT;
 165
 166                 do {
 167                         rem <<= 1;
 168                         res_abs <<= 1;
 169                         if (rem >= b_abs) {
 170                                 res_abs |= 1;
 171                                 rem -= b_abs;
 172                         }
 173                 } while (--i != 0);
 174         }
 175
 176         /* round up LSB */
 177         {
 178                 u64 summand = (rem << 1) >= b_abs;
 179
 180                 res_abs += summand;
 181         }
 182
 183         res = (s64) res_abs;
 184         if (a_neg ^ b_neg)
 185                 res = -res;
 186         return res;
 187 }
 188
 189 static inline s64 drm_fixp_exp(s64 x)
 190 {
 191         s64 tolerance = div64_s64(DRM_FIXED_ONE, 1000000);
 192         s64 sum = DRM_FIXED_ONE, term, y = x;
 193         u64 count = 1;
 194
 195         if (x < 0)
 196                 y = -1 * x;
 197
 198         term = y;
 199
 200         while (term >= tolerance) {
 201                 sum = sum + term;
 202                 count = count + 1;
 203                 term = drm_fixp_mul(term, div64_s64(y, count));
 204         }
 205
 206         if (x < 0)
 207                 sum = drm_fixp_div(DRM_FIXED_ONE, sum);
 208
 209         return sum;
 210 }
 211
 212 #endif